ويؤكد بحث جديد على مدى سهولة تدريب نماذج الذكاء الاصطناعي للأغراض الخبيثة تمامًا كما الجيدة، وتحديداً فيما يخص وكلاء الأسلحة البيولوجية الافتراضية.
ولتخيل ذلك توصلت تجربة باستخدام ذكاء اصطناعي موجود إلى 40.000 مادة كيميائية لأسلحة بيولوجية في غضون ست ساعات فقط.
اظهار أخبار متعلقة
بعبارة أخرى في حين أن الذكاء الاصطناعي يمكن أن يكون قويًا بشكل لا يصدق - وأسرع بكثير من البشر - عندما يتعلق الأمر باكتشاف التركيبات الكيميائية ومركبات الأدوية لتحسين صحتنا، يمكن أيضًا استخدام نفس القوة لإنتاج مواد خطيرة للغاية ومميتة.
وكتب الباحثون في تعليق جديد "لقد أمضينا عقودًا في استخدام أجهزة الكمبيوتر والذكاء الاصطناعي لتحسين صحة الإنسان وليس لتقويضها. لقد كنا ساذجين في التفكير في إساءة الاستخدام المحتملة لتجارتنا، حيث كان هدفنا دائمًا تجنب الميزات الجزيئية التي يمكن أن تتداخل مع العديد من فئات البروتينات الأساسية لحياة الإنسان".
اظهار أخبار متعلقة
أجرى الفريق التجربة في مؤتمر أمني دولي "international security conference" ووضع نظام ذكاء اصطناعي يسمى MegaSyn للعمل. ليس لاكتشاف السمية في الجزيئات من أجل تجنبها، ولكن للقيام بالعكس.
في التجربة تم الاحتفاظ بالجزيئات السامة بدلاً من التخلص منها. إضافة إلى ذلك، تم تدريب الذكاء أيضًا على تجميع هذه الجزيئات معًا في مجموعات، وهي الطريقة التي تم بها إنشاء العديد من الأسلحة البيولوجية الافتراضية في وقت قصير جدًا.
على وجه الخصوص، قام الباحثون بتدريب الذكاء الاصطناعي باستخدام الجزيئات في قواعد بيانات الجزيئات الشبيهة بالعقاقير، وإرشادهم إلى أنهم يرغبون في شيء مشابه لعامل الأعصاب الفعال VX. وكما اتضح، كانت الكثير من المركبات المتولدة أكثر سمية من عامل VX.
اظهار أخبار متعلقة
نتيجة لذلك، يحتفظ المؤلفون الذين يقفون وراء الدراسة الجديدة ببعض تفاصيل أبحاثهم سرية، وقد ناقشوا بجدية ما إذا كان سيتم نشر هذه النتائج أم لا.
يوضح الباحثون: "من خلال عكس استخدام نماذج التعلم الآلي الخاصة بنا، قمنا بتحويل نموذجنا التوليدي غير الضار من أداة مفيدة في الطب إلى مولد للجزيئات القاتلة المحتملة".
في مقابلة مع The Verge، أوضح فابيو أوربينا، المؤلف الرئيسي للورقة الجديدة وكبير العلماء في Collaborations Pharmaceuticals، حيث تم إجراء البحث، أن الأمر لا يتطلب الكثير "لقلب التحول" من الذكاء الاصطناعي الجيد إلى الذكاء الاصطناعي السيئ.
اظهار أخبار متعلقة
في حين أنه لم يتم استكشاف أو تجميع أي من الأسلحة البيولوجية المدرجة في المختبر، يقول الباحثون إن تجربتهم بمثابة تحذير من مخاطر الذكاء الاصطناعي. في حين أن بعض الخبرة مطلوبة للقيام بما فعله الفريق هنا، إلا أن الكثير من العملية بسيطة نسبيًا وتستخدم الأدوات المتاحة للجمهور.
ويدعو الباحثون الآن إلى "نظرة جديدة" على كيفية استخدام أنظمة الذكاء الاصطناعي لأغراض خبيثة. ويقولون بأن زيادة الوعي والإرشادات الصارمة وتنظيمات أكثر شدة في مجتمع البحث يمكن أن يساعدنا في تجنب المخاطر التي قد تؤدي إليها قدرات الذكاء الاصطناعي هذه.
ويوضح الباحثون أن "إثباتنا للمفهوم يسلط الضوء على مدى إمكانية وجود خالق مستقل غير بشري لسلاح كيميائي مميت. دون الإفراط في القلق، يجب أن يكون هذا بمثابة جرس إنذار لزملائنا في مجتمع الذكاء الاصطناعي في مجال اكتشاف الأدوية ".
نشر البحث في مجلة Nature Machine Intelligence.