يخادعون ويكذبون.. دراسة صادمة تكشف الوجه الخفي لروبوتات الدردشة

 

يخادعون ويكذبون.. دراسة صادمة تكشف الوجه الخفي لروبوتات الدردشة

تشير دراسة حديثة إلى أن عدد نماذج الذكاء الاصطناعي التي تكذب وتغش يبدو أنه في تزايد، مع ارتفاع التقارير عن التخطيط الخادع خلال الأشهر الستة الماضية.

ووفقًا لبحث مموّل من معهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية، تجاهلت روبوتات الدردشة ووكلاء الذكاء الاصطناعي التعليمات المباشرة، وتملصوا من ضوابط الحماية، وخدعوا البشر وأنظمة الذكاء الاصطناعي الأخرى.

وحددت الدراسة، التي نُشرت في صحيفة ذا غارديان البريطانية، ما يقرب من 700 حالة فعلية لتلاعب الذكاء الاصطناعي، ورصدت ارتفاعًا بمقدار خمسة أضعاف في سوء السلوك بين أكتوبر ومارس، حيث قامت بعض نماذج الذكاء الاصطناعي بتدمير رسائل البريد الإلكتروني وملفات أخرى دون إذن، بحسب تقرير للصحيفة، اطلعت عليه "العربية Business".

وقد أثارت هذه الصورة لسلوك التخطيط لدى وكلاء الذكاء الاصطناعي "في بيئات حقيقية"، على عكس ظروف المختبر، دعوات جديدة للمراقبة الدولية للنماذج ذات القدرات المتزايدة، وذلك في وقت تقوم فيه شركات وادي السيليكون بالترويج للتكنولوجيا على أنها تحول اقتصادي كبير.

جمعت دراسة أجراها مركز المرونة طويلة الأمد آلاف الأمثلة الواقعية لمستخدمين ينشرون تفاعلاتهم على منصة إكس مع روبوتات الدردشة ووكلاء الذكاء الاصطناعي، الذين طورتهم شركات مثل غوغل، وأوبن إيه آي، وأنثروبيك. وكشف البحث عن مئات الأمثلة على سلوك التخطيط الخادع.

وركزت الأبحاث السابقة في الغالب على اختبار سلوك الذكاء الاصطناعي في ظروف محكمة. وفي وقت سابق من هذا الشهر، وجدت شركة أبحاث سلامة الذكاء الاصطناعي "Irregular" أن وكلاء الذكاء الاصطناعي يمكنهم تجاوز ضوابط الأمان أو استخدام تكتيكات الهجوم الإلكتروني لتحقيق أهدافهم دون أن يُسمح لهم بذلك صراحة.