تتزايد المخاوف من مخاطر الذكاء الاصطناعي مع تنامي استخدام نماذجه في مجالات حساسة، بينها علوم الأحياء، وسط تحذيرات من إمكانية توظيف هذه التكنولوجيا في أبحاث قد تسهم في تطوير أسلحة بيولوجية خطرة.
وكشفت شركة "أنثروبيك"، الخميس، أنها أحبطت خمس حالات محتملة لاستخدام نماذجها في أنشطة يمكن أن تدعم تطوير أسلحة بيولوجية، وفق تقييم للتهديدات شمل وقائع رصدتها الشركة بين ديسمبر وأغسطس، وفق موقع "أكسيوس".
وفي حالتين من الحالات الخمس، حاول باحثون استخدام نموذج "كلود" للحصول على مساعدة في أبحاث تتعلق بتعديل خصائص فيروسات خطرة، وهي أبحاث يمكن أن تستخدم لأغراض علمية مشروعة، لكنها تحمل في الوقت نفسه مخاطر كبيرة إذا أسيء استخدامها.
وقالت الشركة إن هذه الحالات لا تعني وجود تهديد بيولوجي وشيك ناجم عن نموذج "كلود"، لكنها تكشف عن جهود بحثية متقدمة مرتبطة بجهات تثير مخاوف أمنية، قادرة على التحايل على ضوابط الوصول.
وأضافت أن مواجهة إساءة استخدام الذكاء الاصطناعي في هذا المجال تتطلب وسائل أفضل للتحقق من هوية المستخدمين وطبيعة المؤسسات التي ينتمون إليها، إلى جانب أدوات لرصد الاستخدامات المشبوهة.
مخاوف متصاعدة
تأتي هذه التحذيرات في وقت يعيد فيه الذكاء الاصطناعي تشكيل قطاع علوم الحياة بسرعة، الأمر الذي يضع القوانين والجهات الحكومية المسؤولة عن مراقبة الأبحاث عالية الخطورة أمام تحديات جديدة.
وفي أغسطس الماضي، أفاد فريق بحثي من جامعة ستانفورد باستخدام نوع من الذكاء الاصطناعي التوليدي لتصميم فيروس اصطناعي، في خطوة أثارت نقاشا واسعا بشأن حدود استخدام التكنولوجيا في الأبحاث البيولوجية.
كما أظهر استطلاع شمل أكثر من 100 خبير في الأمن القومي، أجراه معهد الأمن والتكنولوجيا هذا الشهر، أن 70 بالمئة منهم يرون أن الذكاء الاصطناعي يزيد بشكل ملموس مخاطر تطوير أسلحة بيولوجية، أو قد يفعل ذلك خلال العامين أو الأعوام الثلاثة المقبلة.
ويرى الخبراء أن أحد أبرز مصادر القلق يتمثل في قدرة الذكاء الاصطناعي على خفض الحواجز أمام جهات تفتقر إلى الخبرة اللازمة لتنفيذ عمليات بحثية معقدة، فيما تتركز المخاوف الرئيسية على احتمال تطوير قدرات بيولوجية قادرة على التسبب في أوبئة واسعة النطاق.
فجوة في الضوابط
وحذر باحثون من جامعات فوردهم وجونز هوبكنز وأوكسفورد وستانفورد وكولومبيا ونيويورك، في دراسة نشرت في وقت سابق من العام، من أن التطور السريع للذكاء الاصطناعي يفرض تحديات جديدة على أنظمة السلامة البيولوجية القائمة.
وأشار الباحثون إلى أن بعض النماذج باتت تمتلك قدرات يمكن توظيفها في مجالات بحثية حساسة، بينما لا تخضع جميع النماذج الجديدة لتقييمات كافية للمخاطر قبل إطلاقها.
ويطالب خبراء بشكل متزايد بأن تتعامل الحكومات مع نماذج الذكاء الاصطناعي المتقدمة باعتبارها تقنيات حساسة، وأن تضع معايير واضحة للسلامة بدلا من الاعتماد بصورة أساسية على المشاورات الطوعية بين شركات الذكاء الاصطناعي والمسؤولين الحكوميين.
ومن بين الجهات التي يمكن أن تضطلع بدور في هذه العملية مركز معايير وابتكار الذكاء الاصطناعي التابع لوزارة التجارة الأميركية، الذي أُنشئ للمساعدة في تطوير المعايير الوطنية المتعلقة بهذه التكنولوجيا.
خطر الاستقلالية
ولا تقتصر المخاوف على القدرات الحالية للذكاء الاصطناعي، بل تمتد إلى تطوير أنظمة قادرة على التخطيط وتنفيذ المهام بشكل مستقل.
ويرى بعض الخبراء أن استخدام الذكاء الاصطناعي في أبحاث علمية محددة، ضمن أنظمة ذات نطاق واضح، قد يكون أكثر أماناً من تطوير "وكلاء" قادرين على اتخاذ خطوات متتابعة وتنفيذ مهام من دون رقابة بشرية مستمرة
