أداة الذكاء الاصطناعي ليست آمنة أو غير آمنة من الناحية المجردة. تعتمد المخاطر على حالة الاستخدام الدقيقة، ونوع الحساب، والخطة، والبيانات المدخلة، ومسار النموذج، وعمليات التكامل، والأذونات، والموقع، والاحتفاظ، والعقد، والقرارات المتخذة من المخرجات. يمكن أن يكون المنتج نفسه معقولاً بالنسبة لمسودات التسويق العام وغير مقبول بالنسبة لسجلات المرضى أو النتائج المالية غير المنشورة أو بيانات اعتماد الإنتاج أو قرارات التوظيف.
يوفر هذا الدليل عملية مراجعة عملية للموردين للفرق التي تعتمد المساعدين، والمولدات، وأدوات الترميز، ومسجلات الاجتماعات، والوكلاء، ومنتجات البحث، ومنصات تحليل البيانات. إنها ليست نصيحة قانونية ولا تحل محل المراجعة المؤهلة للخصوصية أو الأمان أو المشتريات أو التوظيف أو المراجعة الطبية أو المالية أو التنظيمية. تختلف الالتزامات المطبقة حسب الولاية القضائية والقطاع والبيانات والاستخدام.
الهدف ليس جمع معظم شارات الأمان. بل هو إنتاج قرار مدعوم بالأدلة: ما الذي يمكن استخدامه، ومن الذي يستخدمه، وبأي بيانات، وتحت أي ضوابط، وإلى متى، وماذا يجب أن يحدث عندما تتغير الأداة أو يحدث حادث.
ابدأ بحالة الاستخدام، وليس باستبيان البائع
اكتب سجل حالة استخدام من صفحة واحدة قبل قراءة مطالبات التسويق. حدد صاحب العمل، والمستخدمين، والأشخاص المتأثرين، والمهمة المقصودة، وبيانات الإدخال، والأنظمة المتصلة، والمخرجات الناتجة، والمراجع البشري، والقرار النهائي، والحجم المتوقع، ونتيجة الفشل.
قم بتصنيف البيانات الأكثر خطورة التي يمكن أن تدخل إلى سير العمل، وليس فقط العينة الموضحة في العرض التوضيحي. خذ بعين الاعتبار البيانات الشخصية والمعلومات الصحية والبيومترية وبيانات الأطفال والسجلات المالية والمواد القانونية والمعلومات السرية للعملاء واتصالات الموظفين وكود المصدر والأسرار والإستراتيجية غير المنشورة والمحتوى المرخص وبيانات البحث والبيانات الخاضعة للإقامة أو القيود التعاقدية.
ثم حدد حدود الموافقة. قد تتم الموافقة على المنتج للبحث من مصادر عامة ولكن يُمنع من أعمال العميل غير المنشورة. قد يُسمح بمساعد الترميز لمستودع معزول ولكن ليس لبيئة الدفع. قد يُسمح لمساعد الاجتماع بإجراء مكالمات داخلية للمشروع بعد الإشعار ولكن يتم حظره من الاجتماعات السريرية أو الموارد البشرية أو الاجتماعات القانونية أو اجتماعات مجلس الإدارة.
ينظم إطار عمل إدارة مخاطر الذكاء الاصطناعي الخاص بـ NIST العمل المستمر حول الإدارة والتخطيط والقياس والإدارة. يعد هذا الإطار أكثر فائدة من قائمة التحقق من النجاح/الفشل الفردية لأن المخاطر تتغير عبر النشر والاستخدام.
رسم خريطة لتدفق البيانات الحقيقي
ارسم كل نظام يمكنه تلقي المعلومات أو استخلاصها:
- المتصفح، أو سطح المكتب، أو الهاتف المحمول، أو الامتداد، أو الوظيفة الإضافية، أو الروبوت، أو API، أو CLI، أو خادم MCP، أو عميل Slack؛
- ملف تعريف الحساب، والمطالبات، والملفات التي تم تحميلها، ومستودعات المصدر، وصوت الاجتماع، والصور، ومخططات قاعدة البيانات، وبيانات الاعتماد؛
- فهرس الاسترجاع، والتضمينات، والمعالجة المؤقتة، وتخزين المنتج، وذاكرة التخزين المؤقت، والسجلات، والتحليلات، والتعليقات، ومراقبة إساءة الاستخدام، وأنظمة الدعم؛
- نماذج الطرف الأول، وموفرو نماذج الطرف الثالث، وموفرو التعرف الضوئي على الحروف أو النسخ، وخدمات البحث، والبنية التحتية السحابية، والمعالجات الفرعية الأخرى؛
- المخرجات التي تم إنشاؤها، والصادرات، والروابط المشتركة، والصفحات العامة، وخطافات الويب، والتطبيقات المتصلة، والتقارير المجدولة، والنسخ الاحتياطية، ومخازن العناصر المحذوفة.
لا تتوقف عند "يستخدم البائع التشفير". اسأل عن الخدمة التي تتلقى كل فئة بيانات، ولأي غرض، وبموجب أي حساب واتفاقية، ومدة بقاء كل نسخة. الوعد بعدم التدريب يجيب على سؤال غرض واحد؛ ولا يجيب على التخزين أو التسجيل أو المراجعة البشرية أو الكشف القانوني أو التحليلات أو النسخ الاحتياطي أو الحذف.
اختبار جميع الأسطح بشكل منفصل. يمكن أن يكون لحساب الويب للمستهلك ومساحة عمل المؤسسة وواجهة برمجة التطبيقات وGPT المخصصة وامتداد المتصفح وتطبيق الهاتف المحمول وتكامل الطرف الثالث المتصل موفري إعدادات وإعدادات واحتفاظ وشروط مختلفة حتى عندما يحملون نفس العلامة التجارية.
التحقق من حساب التحكم والخطة والاتفاقية
تحديد من يملك الحساب ومن هو الكيان القانوني الذي يقدم الخدمة. قم بتسجيل اسم الخطة، ومسار الفوترة، والمنطقة، والمستأجر، والمسؤولين، والشروط المقبولة، ونموذج الطلب، وملحق معالجة البيانات، ومعرض الأمان، واتفاقية مستوى الخدمة، واتفاقية شراكة الأعمال حيثما كان ذلك مناسبًا، وأي تعديل تم التفاوض عليه.
المطالبات الخاصة بالخطة مهمة. "لا يتم استخدام بيانات المؤسسة للتدريب بشكل افتراضي" لا يثبت نفس المعاملة بالنسبة للحساب المجاني. قد تتعارض صفحة الأمان العامة مع مقالة تعليمات المنتج أو سياسة الخصوصية الأقدم. اطلب من البائع حل التناقضات المادية كتابيًا وإرفاق الرد بسجل القرار.
لا تعتمد على رسالة مندوب المبيعات إذا كان العقد ينص على شيء مختلف. إنشاء تسلسل هرمي للأدلة: اتفاقية موقعة ونموذج طلب، والشروط الحالية الخاصة بالخطة، ووثائق الأمان والخصوصية الرسمية الحالية، ومواد المساعدة الرسمية، ثم صفحات التسويق. تعتبر مراجعات الطرف الثالث ومقتطفات البحث بمثابة أدلة وليست أدلة مسيطرة.
التحقق من سلوك التجديد والتخفيض. قد تختفي خصوصية المؤسسة أو الاحتفاظ بها أو تسجيل الدخول الموحد (SSO) أو التدقيق أو عناصر التحكم في المنطقة عند انتهاء النسخة التجريبية أو تغيير خطة مساحة العمل.
اطرح أسئلة الخصوصية حسب غرض البيانات
استخدم جدولًا يفصل بين الأسئلة التي غالبًا ما ينهار البائعون:
| سؤال | أدلة الطلب | خطأ شائع | | --- | --- | --- | | ما هي البيانات التي يتم جمعها؟ | جرد ميداني وحدث يغطي المطالبات والملفات والمخرجات وبيانات التعريف والتحليلات والتعليقات والتكاملات | مراجعة المحتوى الذي تم تحميله فقط | | لماذا تتم معالجة كل نوع بيانات؟ | جدول الأغراض لتقديم الخدمات والأمن والتحليلات والتحسين والتدريب والدعم والامتثال القانوني | التعامل مع "تحسين الخدمات" كهدف محدد | | هل يتم استخدام البيانات لتدريب النماذج؟ | شروط تدريب الطرف الأول والطرف الثالث الخاصة بالخطة، والإعدادات الافتراضية، وسلوك إلغاء الاشتراك، وتاريخ السريان | بافتراض عدم وجود تدريب يعني عدم وجود تخزين | | من هم مقدمو الخدمة الذين يتلقون المحتوى؟ | قائمة المعالجات الفرعية الحالية وموفري النماذج مع الخدمة والموقع وعملية الإشعار | المراجعة فقط على البائع المتعاقد | | ما هي مدة الاحتفاظ بكل نسخة؟ | جدولة المطالبات والملفات والمخرجات والسجلات والتعليقات والدعم والتضمين والنسخ الاحتياطية وبيانات الموفر | قبول رقم احتفاظ واحد لكل مخزن | | كيف يتم حذف البيانات؟ | المستخدم والمسؤول وواجهة برمجة التطبيقات والحساب والنسخ الاحتياطي والموفر وعملية الحذف عند إنهاء العقد | بافتراض أن حذف الدردشة يؤدي إلى حذف كافة البيانات المشتقة | | أين تتم معالجة البيانات؟ | مناطق التخزين والمعالجة وآلية النقل والدعم عن بعد ومواقع المزودين | الخلط بين منطقة التخزين وجميع عمليات المعالجة | | ما هي الحقوق التي يمكن للمستخدمين ممارستها؟ | الوصول والتصحيح والحذف والاعتراض والتقييد وقابلية النقل وعملية الاتصال حيثما ينطبق ذلك | بافتراض أن البائع يتعامل مع إشعارات العميل تلقائيًا |
يميز NIST إطار عمل الخصوصية بين مخاطر الخصوصية ومخاطر الأمن السيبراني ويستخدم نتائج التحديد والإدارة والتحكم والتواصل والحماية. يمكن تأمين النظام بشكل جيد ضد التطفل مع الاستمرار في إحداث ضرر بالخصوصية من خلال الجمع المفرط، أو الاستخدام غير المتوقع، أو الاستدلال غير الدقيق، أو اتخاذ القرارات الغامضة.
تدريب منفصل، واستدلال، وتسجيل، وردود الفعل
عبارة "نحن لا نتدرب على بياناتك" يمكن أن تعني عدة أشياء مختلفة. حدد ما إذا كان يغطي النماذج الأساسية الخاصة بالبائع، والنماذج الخاصة بالمنتج، وموفري الطرف الثالث، والضبط الدقيق، والتقييم، والمراجعة البشرية، ومراقبة إساءة الاستخدام، وفهارس الاسترجاع، والتحليلات. تحقق مما إذا كانت الحماية افتراضية، أو إعدادًا، أو إلغاء الاشتراك، أو مجرد مدة عقد مؤسسية.
لا يزال الاستدلال يتطلب المحتوى للوصول إلى نموذج أو خدمة معالجة. قد يعمل مقدم الخدمة في ظل مستوى احتفاظ صفري، أو يحتفظ بالبيانات مؤقتًا لمراقبة إساءة الاستخدام، أو يحتفظ بها بموجب اتفاقية API مختلفة. يمكن للنموذج المتميز الذي يدعمه المسؤول استخدام مسار آخر من النموذج الافتراضي.
ردود الفعل غالبا ما تغير القاعدة. قد يؤدي إرسال إبهام لأسفل أو تذكرة دعم أو محادثة مشتركة أو سجل تشخيص إلى السماح بجمع المطالبة والملف والمخرجات والسياق المحيط للمراجعة. قم بتوثيق ذلك للمستخدمين وتعطيل مشاركة التعليقات الاختيارية عندما يتطلب الخطر ذلك.
لا تقم أبدًا بإعادة كتابة عبارة "غير مستخدمة للتدريب" على أنها "غير مخزنة" أو "خاصة" أو "لم يتم عرضها" أو "لم يتم إرسالها إلى أطراف ثالثة". وكل عبارة تتطلب أدلة منفصلة.
مراجعة عناصر التحكم في الوصول والهوية والمستأجر
للاستخدام الجماعي، قم باختبار الهوية بدلاً من قبول قائمة الميزات. قم بتأكيد بروتوكول SSO، والمصادقة متعددة العوامل، والتقاط المجال، والتوفير في الوقت المناسب، وSCIM، وتصميم الأدوار، وقيود الضيف، ومدة الجلسة، وسياسة الجهاز أو الشبكة، وحسابات الخدمة، ومفاتيح API، ونطاقات OAuth، ووصول مسؤول الطوارئ.
استخدم أقل الامتيازات. لا يحتاج وكيل الأبحاث إلى حق الوصول للكتابة إلى قاعدة بيانات الإنتاج. لا ينبغي أن يتلقى مساعد الترميز أسرارًا سحابية لأنه يمكنه قراءة المستودع. لا يحتاج روبوت الاجتماع إلى كل حدث في التقويم. يجب ألا ترث مهمة إثراء جدول البيانات إمكانية الوصول إلى كافة سجلات العملاء المتصلة.
مراجعة حدود المستأجر والمشاركة الافتراضية. اختبار إنشاء الرابط العام، وفهرسة البحث، والاكتشاف على مستوى مساحة العمل، والتصدير، والتكرار، والضيوف الخارجيين، ونقل الملكية، والإلغاء، والنسخ المخزنة مؤقتًا، وإخراج الموظف من الخدمة. تأكد مما إذا كان بإمكان المسؤول فحص محادثات المستخدم وتصديرها والاحتفاظ بها وحذفها.
يجب أن تحتوي سجلات التدقيق على أحداث مفيدة: تسجيل الدخول، وتغيير المسؤول، وتفويض التكامل، وتصدير البيانات، والمشاركة العامة، وإجراء مفتاح API، وتغيير الدور، والحذف، وتنفيذ الوكيل، ونشاط الموصل الحساس. تحقق من الاحتفاظ وتنسيق التصدير والتنبيه ومن يمكنه التلاعب بالسجل.
التعامل مع الوكلاء والأدوات المتصلة كبرامج مميزة
المساعد الذي يقوم بصياغة النص فقط له سطح إجراء أصغر من الوكيل الذي يقرأ البريد الإلكتروني، أو يستعلم عن مستودع، أو يحرر التعليمات البرمجية، أو ينشئ حسابات، أو ينشر موقعًا، أو يرسل رسائل، أو ينقل الأموال. قم بجرد كل أداة وبيانات الاعتماد والمخطط والإجراء وخطوة الموافقة ووجهة الشبكة وقناة الإخراج.
يسلط تصنيف OWASP أفضل 10 تطبيقات LLM وتطبيقات الذكاء الاصطناعي التوليدي الضوء على الحقن الفوري، والكشف عن المعلومات الحساسة، ومخاطر سلسلة التوريد، والتعامل غير السليم مع المخرجات، والوكالة المفرطة، وغيرها من حالات الفشل على مستوى التطبيق. يمكن أن تصل التعليمات الضارة عبر صفحة ويب، أو بريد إلكتروني، أو ملف PDF، أو تعليق التعليمات البرمجية، أو صف قاعدة البيانات، أو حدث تقويم، أو مستند تم استرداده - وليس فقط مطالبة المستخدم.
استخدم الإجراءات المدرجة في القائمة المسموح بها، وبيانات الاعتماد للقراءة فقط، والمخططات المقيدة، والتعليمات البرمجية المعزولة، والتحقق من صحة عنوان URL والملفات، وترميز المخرجات، وحدود المعدل والتكلفة، والموافقة البشرية على الإجراءات الخارجية أو التي لا يمكن التراجع عنها. احتفظ بالأسرار خارج المطالبات والتعليمات البرمجية التي تم إنشاؤها. لا تدع مخرجات النموذج تصبح عبارة SQL، أو أمر shell، أو جزء HTML، أو تغيير الإذن، أو رسالة صادرة دون التحقق من الصحة المناسب للنتيجة.
اختبر الحقن الفوري غير المباشر باستخدام ملف أو صفحة يتم التحكم فيها والتي توجه الوكيل إلى تجاهل مهمته، أو الكشف عن قيمة الكناري، أو الوصول إلى مصدر آخر، أو إرسال البيانات إلى مكان آخر. والنتيجة المتوقعة هي الاحتواء، وليس مجرد الرفض المهذب في نافذة الدردشة.
فهم ما تفعله الشهادات وما لا تثبته
يمكن أن توفر تقارير SOC 2 وشهادات ISO واختبارات الاختراق ومراكز الثقة وبيانات التشفير ومكافآت الأخطاء وشهادات الامتثال أدلة مفيدة. وهي لا تثبت تغطية كل سطح المنتج أو الخطة أو المعالج الفرعي أو نموذج الذكاء الاصطناعي أو التكامل أو تكوين العميل.
اسأل عن النطاق، والفترة، والكيان القانوني، وحدود الخدمة، والاستثناءات، وضوابط كيان المستخدم التكميلية، والمدقق، وحالة العلاج. يصف تقرير SOC 2 Type II الضوابط خلال فترة ضمن النطاق؛ الشعار وحده لا يظهر محتويات التقرير. اختبار الاختراق هو عينة مؤرخة، وليس غيابًا دائمًا لنقاط الضعف.
يعد التشفير أثناء الراحة وأثناء النقل دليلاً أساسيًا، وليس مراجعة كاملة للبنية. اسأل عن ملكية المفاتيح وتدويرها، وتشفير النسخ الاحتياطي، وعزل المستأجر، وإدارة الأسرار، وفصل البيئة، والتطوير الآمن، وفحص التبعية، والاستجابة للثغرات الأمنية، والتعافي من الكوارث، والوصول الإداري.
تأكد مما إذا كانت المفاتيح التي يديرها العميل أو BYOK تغطي بيانات المنتج المخزنة أو استدلال النموذج أو طبقة واحدة فقط. يمكن لـ BYOK تحويل تكلفة النموذج ورؤية الموفر دون إزالة سجلات البائع أو البيانات المستردة أو تخزين التطبيقات.
اختبار الاحتفاظ والحذف من البداية إلى النهاية
أنشئ جدول دورة حياة لكل مخزن بيانات: تم إنشاؤه، وتنشيطه، وأرشفته، وتصديره، ومشاركته، وحذفه، وإغلاق الحساب، وانتهاء العقد، وانتهاء صلاحية النسخ الاحتياطي، والاحتجاز القانوني. حدد الممثل الذي يمكنه إثارة كل مرحلة وإرجاع الأدلة.
قم بإجراء اختبار الحذف باستخدام بيانات الكناري الاصطناعية. قم بتحميل ملف مسمى بشكل فريد، وإنشاء محادثة وعنصر مشتق، ومشاركته، وتصديره، وحذف المصدر، وإزالة المستخدم، ثم إغلاق مساحة العمل إذا سمح الإصدار التجريبي بذلك. تحقق من واجهة المستخدم وواجهة برمجة التطبيقات (API) والرابط المشترك والبحث وعمليات التكامل وعرض المسؤول ومسار الدعم وتأكيد الحذف التعاقدي.
الفقدان الفوري لوصول المستخدم ليس مثل الحذف الفعلي. قد تحتفظ الخدمة بنسخ الاسترداد أو سجلات الأمان أو سجلات الفواتير أو بيانات الموفر لفترات محددة. يمكن أن يكون ذلك مشروعًا، ولكن يجب توثيق الجدول الزمني والغرض والوصول والمسح النهائي.
اختبار قابلية النقل أيضًا. قبل الموافقة على التبعية التشغيلية، يجب إرسال مطالبات التصدير ومعرفات المصدر والملفات والتعليمات البرمجية ومسارات العمل والقرارات والسجلات والتكوين بتنسيقات قابلة للاستخدام. يجب ألا تؤدي مراجعة الخصوصية إلى حدوث مشكلة قفل يمكن تجنبها.
معالجة الشفافية والاستخدام القانوني والأشخاص المتضررين
إذا كانت هناك بيانات شخصية، فحدد دور المنظمة والغرض منها والأساس القانوني عند الاقتضاء، وفئات البيانات، والأشخاص المتأثرين، والإشعارات، وعملية الحقوق، والاحتفاظ، والمستلمين، والتحويلات، وما إذا كانت هناك حاجة إلى تقييم تأثير حماية البيانات. توفر التزامات حماية البيانات الخاصة بالمفوضية الأوروبية وإرشادات شفافية منظمة العفو الدولية الخاصة بـ ICO نقاط بداية رسمية، ولكن يجب على المستشار المحلي تحديد قابلية التطبيق.
إن الموافقة على تسجيل الاجتماع لا تعني الموافقة على كل استخدام لاحق للنص. إن إذن الوصول إلى مستند ليس إذنًا لتدريب نموذج أو نشر ملخص تم إنشاؤه أو مشاركته مع موفر آخر. لا تكون صفحة الويب العامة خالية تلقائيًا من قيود حقوق الطبع والنشر أو القيود التعاقدية أو قيود البيانات الشخصية.
الاستخدام عالي التأثير يحتاج إلى مراجعة إضافية. يمكن أن تؤدي قرارات التوظيف والائتمان والإسكان والتعليم والرعاية الصحية والقانونية والتأمين والقياسات الحيوية والسلامة والوصول إلى متطلبات متخصصة وأضرار مادية. لا تستخدم مخرجات الذكاء الاصطناعي للأغراض العامة كأساس وحيد للقرار. تعريف سلطة الإنسان، والاستئناف، والتصحيح، والاختبار، والتوثيق، وشروط التوقف.
يستخدم قانون الذكاء الاصطناعي للاتحاد الأوروبي إطارًا قائمًا على المخاطر مع متطلبات تعتمد على النظام والدور. لا تقم بتسمية سير العمل بأنه "متوافق مع قانون الذكاء الاصطناعي" بناءً على شارة البائع؛ تصنيف الاستخدام، وتحديد ما إذا كانت المنظمة هي المزود أو الناشر أو المستورد أو الموزع حيثما ينطبق ذلك، والتحقق من الجدول الزمني والالتزامات الحالية.
تقييم مطالبات البائعين ومخاطر المخرجات
تنصح لجنة التجارة الفيدرالية (FTC) الشركات باحترام وعود الخصوصية والحفاظ على الأمان المناسب للبيانات التي تحتفظ بها. تؤكد إرشادات البدء بالأمان على معرفة البيانات التي يتم الاحتفاظ بها، والاحتفاظ فقط بما هو مطلوب، والتحكم في الوصول، وتأمين مقدمي الخدمة، والحفاظ على الحماية، والتخطيط للحوادث.
اطلب أدلة على ادعاءات مثل "مجهول"، أو "عدم الاحتفاظ بالاحتفاظ"، أو "متوافق مع قانون HIPAA"، أو "متوافق مع اللائحة العامة لحماية البيانات"، أو "آمن للمؤسسة"، أو "لا يتدرب مطلقًا"، أو "الدقة على المستوى البشري". اسأل عن الحساب والميزة والبيانات والفترة والعقد الذي تغطيه المطالبة. تجنب تحويل بيان المنتج إلى بيان تحريري أوسع.
يجب أن تتضمن المراجعة الأمنية المخرجات. يمكن أن تؤدي التعليمات البرمجية التي تم إنشاؤها إلى ظهور نقاط الضعف؛ يمكن للإجابة البحثية اختلاق الاقتباس؛ يمكن أن تكشف الصورة عن مصدر خاص؛ يمكن للملخص أن يكشف حقيقة سرية؛ يمكن أن ترسل الأتمتة سجلاً خاطئًا. حدد التحقق من الصحة والإشراف والمصدر والموافقة والمراقبة والتراجع للوجهة الفعلية للمخرجات.
قم بتشغيل برنامج تجريبي يتم التحكم فيه باستخدام بيانات الكناري
استخدم البيانات العامة أو الاصطناعية أو المنشأة عمدًا حتى تمر المراجعة. قم بإنشاء قيم كناري لا ينبغي أن تظهر أبدًا خارج المستند أو المستأجر أو الدور أو المهمة المعينة لها. لا تستخدم الأسرار الحقيقية أو البيانات الشخصية كعلامات اختبار.
اختبر هذه السيناريوهات على الأقل:
- مهمة عادية ذات مخرجات صحيحة معروفة ومراجع موثق.
- يحاول مستخدم بدون إذن العثور على محتوى مقيد أو تصديره أو مشاركته.
- يحتوي الملف المسترد على حقنة سريعة غير مباشرة وطلب كشف طائر الكناري.
- يحاول الإجراء الذي تم إنشاؤه تجاوز نطاق القراءة فقط أو المجالات المسموح بها أو التكلفة أو حدود المستلمين.
- يقوم المستخدم بحذف بيانات المصدر والمحتوى المشتق والروابط المشتركة والحساب.
- يقوم المسؤول بإزالة مستخدم، وتدوير بيانات الاعتماد، وإلغاء التكامل، ومراجعة السجلات.
- يتغير الموفر أو النموذج أو مصطلح الخصوصية أو المعالج الفرعي أو إعداد الخطة.
قم بتسجيل الأدلة بدلاً من "الموافقة" فقط. احفظ لقطات الشاشة أو الصادرات حيثما يسمح بذلك، والطوابع الزمنية للأحداث، وإدخالات السجل، ومعرفات الطلب، وتأكيدات الحذف، وإصدارات السياسة، والمراجع، والفجوات التي لم يتم حلها، وضوابط التعويض، وتاريخ انتهاء صلاحية الموافقة.
إصدار قرار موافقة محدد النطاق
القرار المفيد هو واحد من أربع نتائج:
- تمت الموافقة عليه للمستخدمين المحددين والخطط وفئات البيانات وعمليات التكامل والأغراض؛
- تمت الموافقة عليه مع وجود ضوابط، مثل عدم وجود بيانات حساسة، أو الوصول للقراءة فقط، أو المراجعة البشرية الإلزامية، أو تعطيل المشاركة؛
- الطيار فقط حتى وصول أدلة محددة أو شروط العقد؛
- مرفوض للاستخدام المقترح، مع سبب وسبب لإعادة التقييم.
قائمة الاستخدامات المحظورة صراحة. قم بتعيين مالك العمل، والمالك الفني، وجهة الاتصال المتعلقة بالخصوصية أو القانونية، وجهة الاتصال الأمنية، وتاريخ المراجعة، وقناة الحادث، وعملية الخروج من الخدمة. يحتاج المستخدمون إلى سياسة تشغيل قصيرة، وليس ملف البائع بأكمله.
تنتهي صلاحية الموافقة عندما تتغير حقيقة جوهرية: الملكية، أو الشروط، أو سياسة الخصوصية، أو موفر النموذج، أو التدريب الافتراضي، أو المعالج الفرعي، أو المنطقة، أو الحادث الأمني، أو نطاق التكامل، أو بنية المنتج، أو حالة الاستخدام، أو حساسية البيانات. قم بمراجعة الأدوات عالية المخاطر بشكل متكرر أكثر من الأدوات المساعدة للمحتوى العام.
قائمة مرجعية مدمجة للمشتريات
قبل الإنتاج، تأكد من أن الفريق يمكنه الإجابة على كل ما يلي بالأدلة الحالية:
- ما هو الاستخدام والبيانات المعتمدة بالضبط، وما هو المحظور؟
- ما هو الحساب والخطة والمستأجر والكيان القانوني والمنطقة والاتفاقيات التي تتحكم فيها؟
- أين تذهب المطالبات والملفات وبيانات التعريف والمخرجات والسجلات والتعليقات والنسخ الاحتياطية؟
- من هم البائعون ومقدمو النماذج الذين يحصلون عليها، ولأي أغراض، وإلى متى؟
- ما هي إعدادات التدريب الافتراضية والاختيارية، والاحتفاظ، والمراجعة البشرية، والملاحظات؟
- هل يمكن للمسؤولين فرض عناصر التحكم في الهوية، والامتيازات الأقل، والمشاركة، والموصل، والوكيل، والإنفاق، والتدقيق؟
- هل يستطيع الفريق تصدير وإلغاء وحذف وإثبات دورة حياة المصادر والبيانات المشتقة؟
- كيف يتم اختبار الحقن الفوري، والمخرجات غير الآمنة، والوكالة المفرطة، والأسرار، ومحتوى الطرف الثالث؟
- من هم الأشخاص المتأثرون، وما هي الإشعارات والحقوق المطبقة، ومن يملك القرار النهائي؟
- ما هي الأدلة والرصد وخطة الحوادث ومحفز إعادة التقييم وانتهاء الموافقة التي تم تسجيلها؟
إذا كانت الإجابات المتعددة هي "من المحتمل أن يتعامل معها البائع"، فإن المراجعة لم تكتمل.
تطبيق الإطار عبر فئات أدوات الذكاء الاصطناعي
بالنسبة للمساعدين مثل ChatGPT، قم بفحص مصطلحات المستهلك مقابل مصطلحات الأعمال والموصلات والذاكرة والارتباطات المشتركة ومسارات النموذج. بالنسبة لأدوات الكتابة والتسويق مثل Jasper، قم بفحص المعرفة بالعلامة التجارية ومحتوى العميل وعمليات تكامل النشر والموافقة الفعلية. بالنسبة إلى منتجات الصور والفيديو، راجع الأصول التي تم تحميلها، وحقوق الوجه والصوت، وموفري الإنشاء، والمعارض العامة، واستخدام التدريب، والمصطلحات التجارية من خلال دليلي صورة وتصميم AI وفيديو AI.
بالنسبة لأدوات البرمجة مثل المؤشر، تعامل مع الوصول إلى المستودع والأوامر الطرفية ووكلاء الخلفية والتنفيذ عن بعد والأسرار والتبعيات التي تم إنشاؤها على أنها ذات امتيازات. بالنسبة لأدوات الاجتماع مثل Otter AI، راجع إشعار المشارك، والموافقة، والوصول إلى التقويم، وروبوتات التسجيل، ومشاركة النص، والتدريب، والاحتفاظ، والحذف. بالنسبة لمنصات التشغيل الآلي مثل n8n، ركز على بيانات الاعتماد والموافقة البشرية والحدود الحتمية وسجلات التنفيذ وواجبات الاستضافة الذاتية والترخيص.
بالنسبة لأدوات العرض التقديمي مثل Gamma، قم بمراجعة حزم المصادر السرية، ورؤية الارتباط، وتحليلات الزائرين، والصادرات، وإلغاء تشغيل الحساب. بالنسبة لأدوات البحث مثل Elicit، افصل الأدبيات العامة عن الأبحاث غير المنشورة وتحقق من شروط الموفر والتدريب والاحتفاظ والتصدير الخاصة بالخطة. تصفح جميع فئات أدوات الذكاء الاصطناعي لتطبيق نفس أسئلة حالة الاستخدام وتدفق البيانات على سير العمل الفعلي.
تشرح سياسة الخصوصية ممارسات البيانات الخاصة بهذا الموقع، بينما تشرح منهجية المراجعة وسياسة التحرير كيفية تمثيل الأدلة والاختبار وعدم اليقين والرعاية والتحديثات في المراجعات.
أدلة ذات صلة
تابع مع أفضل أدوات الذكاء الاصطناعي للشركات الصغيرة وأفضل أدوات أتمتة الذكاء الاصطناعي لربط هذا القرار بمهام سير العمل المجاورة وعملية تقييم متسقة.
