مشروع قانون للحماية من الذكاء الاصطناعي في كاليفورنيا

تسبب الذكاء الاصطناعي في آمال في إمكانياته لحل المشاكل، ومخاوف من تأثيراته المدمرة المحتملة عند إساءة استخدامه، ما أدى لطرح نحو 200 مشروع قانون في الولايات المتحدة لوضع قيود على التكنولوجيا الناشئة القوية.

وذكرت شبكة “باي اريا نيوز غروب”، أكبر ناشر صحف يومية وأسبوعية في خليج سان فراتسيسكو في تقرير إن من أبرز مسودات القوانين التي طرحت مشروع في كاليفورنيا،من شأنه أن يؤثر على عشرات الشركات في الولاية التي تعد مهد الابتكار.

وأثارت مسودة القانون غضب الشركات الكبرى في وادي السيليكون بينها غوغل، وميتا المالكة لفيس بوك وشركة واي كومبيناتور”.

وقال السيناتور الديمقراطي في سان فرانسسكو بكاليفورنيا سكوت وينير: “الهدف هنا هو استباق المخاطر بدل انتظارها، وهو ما نفعله دائماً”.

وأشار محللون تشريعيون إلى أنه رغم أن للذكاء الاصطناعي إمكانيات لتحقيق منافع من إحراز تقدم في الطب، وعلوم المناخ، وتوقعات حرائق الغابات وتطوير الطاقة النظيفة، فإنه ينطوي أيضاً على مخاطر كبيرة.

وهناك مخاوف واسعة من استخدامه لتطوير أسلحة مستقلة يمكن أن تختار وتصيب الأهداف دون تدخل بشري، من خلال طائرات دون طيار، معززة بالذكاء الاصطناعي التي تستخدم في الهجمات الإرهابية أو نقل المخدرات.

وتستخدم الخوارزميات المدعومة بالذكاء الاصطناعي في هجمات التصيد الاحتيالي، والبرامج الخبيثة، مثل برنامج “وانا كراي” 2017 الذي استغل نقطة ضعف نظام مايكروسوفت ويندوز وتسبب في أضرار بمليارات الدولارات. كما أن الخوارزميات الآلية للتداول يمكن أن تؤدي للتلاعب بالأسواق، مثل واقعة فلاش كراش 2010 التي تسببت في فقدان مؤشر داو جونز 1000 نقطة في دقائق قبل أن يعود لطبيعته.

ومن شأن مسودة القانون التي طرحها السيناتور وينير تنظيم “تطوير ونشر نماذج الذكاء الاصطناعي المتطورة” من خلال تشكيل هيئة تنظيمية جديدة يطلق عليها “فرونتير موديل ديفيجن”.

كما من شأن مسودة القانون إنشاء برنامج مجموعة الحوسبة الممولة من القطاع العام يطلق عليه “كال كومبيو” سيركز على تطوير نماذج الذكاء الاصطناعي، وتقديم الخبرة التشغيلية ودعم المستخدم، وتعزيز الابتكار “العادل” في الذكاء الاصطناعي .

ويقول معارضو مسودة القانون إن من شأنه تقييد الابتكار وعرقلة تطوير الذكاء الاصطناعي مفتوح المصدر. وأضافوا أنها ” تسيئ بصورة جذرية تفسير” كيفية بناء أنظمة الذكاء الاصطناعي المتطورة، وتفرض “التزامات غير متناسبة” على مطوري النماذج بما من شأنه أن يضر باقتصاد التكنولوجيا المنتعش في كاليفورنيا.

وقال نائب الرئيس ورئيس قسم الخصوصية بشركة ميتا روب شيرمان، في خطاب إلى وينير في 25 يونيو (حزيران) الماضي إن أنظمة الذكاء الاصطناعي” تُبى من جانب عدة أطراف ذات وظائف مختلقة”، بما يشمل”مطور النموذج الذي يطرح النموذج في السوق، و من ينشر الذكاء الاصطناعي الذي يدمج النماذج في الأنظمة لتقديم الخدمة والتحكم في استخدام النموذج، والمستخدم النهائي الذي يستفيد من هذه الأنظمة”.

وكتب شيرمان ” عيب مسودة القانون الرئيسي، أنها تخفق في أخذ النظام البيئي في الاعتبار وتحديد المسؤولية وفقاً لذلك، ما يفرض التزامات غير متناسبة على مطوري النماذج في أجزاء من النظام البيئي لا يملكون السيطرة عليها”.

ويعارض وينير، الذي قبل تعديلات كثيرة أثناء العمل مع شركات التكنولوجيا والمدافعين عن سلامة الذكاء الاصطناعي، ما جاء في الخطاب.

وقال وينير: “إنه مطلب أساسي للغاي، تأدية تقييمات السلامة التي التزمت هذه المختبرات الكبيرة بالفعل بتنفيذها”.

وأضاف” إذا رصدت خطورة كبيرة لضرر كارثي، على المطورين اتخاذ خطوات للحد منها، ما يصعب تحقق هذه المخاطر ويجعلها أقل ترجيحاً”.

وأضاف وينير أن مسودة القانون تنطبق فقط على مطوري الذكاء الاصطناعي الذين ينتجون نماذج ذكاء اصطناعي واسعة النطاق، خاصة المطورين الذين يملكون قوة حاسوبية بأكثر من 100 مليون دولار لتطبيق بروتوكولات السلامة والأمن.

وعلاوة على ذلك، ربما تفرض مسودة القانون عقوبات على الشركات التي تخفق في الإبلاغ عن حوادث سلامة الذكاء الاصطناعي، بما فيها الأحداث التي تفاقم خطورة الضرر الجسيم، والنماذج التي تتورط في سلوك ممنوع، والاخفاق في منع استخدام الذكاء الاصطناعي ذو القدرات الخطيرة.

ووفقاً للمسودة، فإن المحكمة ربما تأمر بإلغاء نموذج ذكاء اصطناعي وبياناته إذا شمل الانتهاك الموت، أو الإيذاء البدني، أو الضرر المادي، أو السرقة أو هدد السلامة العامة.

ووفقاً المسودة فإن المدعي العام في كاليفورنيا فقط هو الذي سيقدم الدعوى ضد هذه الانتهاكات.

ومرت مسودة القانون في مجلس الشيوخ في مايو (أيار) الماضي، عقب موافقة لجنتي الخصوصية وحماية المستهلك والقضاء، ويتوجه حالياً إلى لجنة المخصصات كما سيخضع للتصويت قبل أن يصل لمكتب حاكم الولاية.