خلاصة
لا تبدأ المخاطر القانونية لأداة الذكاء الاصطناعي عند ظهور النتيجة فقط. تبدأ من اختيار الغرض والبيانات والمورد وموقع الاستضافة، وتمتد إلى الشفافية والأمن والدقة والرقابة البشرية والاحتفاظ والإتلاف. ويجب ربط حوكمة الذكاء الاصطناعي ببرنامج حماية البيانات والعقود والمشتريات وإدارة المخاطر.
دورة الاستخدام
تحديد الغرض. يُحدَّد الاستخدام المقصود والقرار الذي ستدعمه الأداة، وما إذا كان الغرض مشروعاً ومحدداً ويمكن شرحه لأصحاب البيانات.
البيانات. تُحصر البيانات الداخلة في التدريب أو التخصيص أو التشغيل، ويُحدَّد المسوغ النظامي والحد الأدنى اللازم وفئات البيانات الحساسة وحقوق أصحابها.
المورد والعقد. يُحدَّد دور كل طرف، وموقع المعالجة، واستخدام البيانات في تدريب النماذج، والتدابير الأمنية، والإخطار بالحوادث، والتدقيق، والحذف، والمسؤولية.
النقل خارج المملكة. يُفحص موقع الاستضافة والدعم والوصول عن بعد، وتُطبَّق شروط لائحة نقل البيانات والضمانات المناسبة قبل النقل.
الاستخدام والرقابة. تُحدَّد الحالات التي تتطلب مراجعة بشرية، ومستوى الاعتماد على المخرجات، وكيفية اكتشاف الخطأ أو التحيز أو الاستخدام غير المصرح به.
الاحتفاظ والإتلاف. تُحدَّد مدة الاحتفاظ بالمدخلات والمخرجات والسجلات، وآلية الإتلاف أو إزالة الهوية عند انتهاء الغرض.
أسئلة قبل شراء أداة ذكاء اصطناعي
- هل تستخدم بياناتنا أو مدخلات مستخدمينا لتدريب نموذج عام؟
- أين تُخزَّن البيانات ومن يستطيع الوصول إليها ومن أي دولة؟
- هل نستطيع حذف البيانات والحصول على أدلة على الحذف؟
- ما مستوى الدقة والقيود المعروفة، ومن يتحمل آثار الخطأ؟
- هل توجد سجلات كافية للمراجعة والتحقيق في الحوادث؟
- ما القرارات التي لا يجوز تنفيذها دون مراجعة بشرية؟
المصادر الرسمية
انظر المصادر المرفقة بهذا المقال.