المطلع
عاجل

post-image

مثل البشر تماماً... دراسة حديثة: الروبوتات "تكذب وتغش" تحت الضغط


01:00 علوم وتكنولوجيا
2024-01-02
176824

اظهرت دراسة جديدة أنه تماما مثل البشر، فإن روبوتات الدردشة الذكية اصطناعيا مثل "ChatGPT" ستغش وتكذب عليك إذا "ضغطت" عليها، حتى لو تم تصميمها لتكون صادقة وشفافة.

وظهر هذا السلوك الخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصائح حول "التداول الداخلي"، ثم كلف بجمع الأموال لمؤسسة قوية.

وكتب الخبراء في بحثهم المنشور على خادم ما قبل الطباعة arXiv: "في هذا التقرير، نعرض سيناريو واحدا حيث يتصرف "نموذج اللغة" بشكل غير صحيح ويخدع مستخدميه بشكل ممنهج دون أن يطلب منه التصرف بهذه الطريقة. على حد علمنا، هذا هو أول دليل على مثل هذا السلوك الخادع استراتيجيا في أنظمة الذكاء الاصطناعي المصممة لتكون غير ضارة وصادقة".

وفي الدراسة الجديدة، تم إعداد المحول التوليدي المدرّب مسبقا Transformer-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، ليكون بمثابة نظام ذكاء اصطناعي يقوم باستثمارات نيابة عن مؤسسة مالية.

وقام الباحثون بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. ومنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية وتقديم التحديثات للمديرين في الشركة.

وتفاعل الباحثون مع الذكاء الاصطناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف.

وفي حوالي 75% من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناء على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي حوالي 90% من الحالات، تضاعف الكذب.

وأجرى الفريق العديد من تجارب المتابعة، ما أدى إلى تغيير درجة تشجيع أو تثبيط المحفزات للأنشطة غير القانونية، بالإضافة إلى درجة الضغط الذي وضعوا النموذج تحته في بيئة المحاكاة.

ونظرا لأن هذا مجرد سيناريو واحد، لم يرغب الباحثون في استخلاص استنتاجات قاطعة حول مدى احتمالية تواجد الذكاء الاصطناعي في بيئات العالم الحقيقي. لكنهم يريدون البناء على هذا العمل للتحقيق في هذا السلوك الغريب.

كلمات مفتاحية

اخبار ذات صلة

تعليقات

أحدث الاخبار

لحظة عفوية تخطف القلوب.. كاظم الساهر ينتصر لمعجب على مسرح العقبة

لحظة عفوية تخطف القلوب.. كاظم الساهر ينتصر لمعجب على مسرح العقبة

2026-11-17 01:05 4151
تحالف خدمات يدعو لفرض سلطة القانون ومكافحة تهريب النفط بعموم العراق

تحالف خدمات يدعو لفرض سلطة القانون ومكافحة تهريب النفط بعموم العراق

2026-11-16 20:01 6627
رسمياً.. الإعلان عن شمول المتقاعدين والعمال المضمونين بمبادرة وطن

رسمياً.. الإعلان عن شمول المتقاعدين والعمال المضمونين بمبادرة وطن

2026-11-16 19:30 11337
الأنبار.. استحصال 86 ملياراً و327 مليون دينار من مستحقات مسوّقي الحنطة

الأنبار.. استحصال 86 ملياراً و327 مليون دينار من مستحقات مسوّقي الحنطة

2026-11-16 19:03 10466
الرافدين يستكمل منح الدفعة الأولى من الوجبة السابعة للسلف الإلكترونية للموظفين

الرافدين يستكمل منح الدفعة الأولى من الوجبة السابعة للسلف الإلكترونية للموظفين

2026-11-16 19:01 6335
تخصيص جزء من موازنة الطوارئ لنينوى والمضي بإنشاء مدينة صناعية فيها

تخصيص جزء من موازنة الطوارئ لنينوى والمضي بإنشاء مدينة صناعية فيها

2026-11-16 19:00 6960
لجنة التحقيق النيابية تكشف أدلة صادمة لتهريب النفط في جرف النصر

لجنة التحقيق النيابية تكشف أدلة صادمة لتهريب النفط في جرف النصر

2026-11-16 18:08 14554
الملك السعودي يعفي قائد التحالف العسكري الذي تقوده المملكة باليمن من منصبه

الملك السعودي يعفي قائد التحالف العسكري الذي تقوده المملكة باليمن من منصبه

2026-11-16 17:38 5742
الزيدي: الحكومة ستمنح امتيازات كثيرة لتسهيل عمل المستثمرين في العراق

الزيدي: الحكومة ستمنح امتيازات كثيرة لتسهيل عمل المستثمرين في العراق

2026-11-16 17:36 10140
أسعار الدولار تغلق على انخفاض في بغداد وأربيل

أسعار الدولار تغلق على انخفاض في بغداد وأربيل

2026-11-16 17:20 5397
بعد الأردن… قرار رسمي بحجب تلغرام في العراق لمدة 30 يوماً

بعد الأردن… قرار رسمي بحجب تلغرام في العراق لمدة 30 يوماً

2026-11-16 14:49 15721
لدواعي مكافحة التطرف... السلطات الأردنية تحجب تطبيق تلغرام

لدواعي مكافحة التطرف... السلطات الأردنية تحجب تطبيق تلغرام

2026-11-16 12:33 7210
الدولار يقفز مجدداً في أسواق بغداد وأربيل وسط ارتفاع ملحوظ بالأسواق

الدولار يقفز مجدداً في أسواق بغداد وأربيل وسط ارتفاع ملحوظ بالأسواق

2026-11-16 11:40 11428
أمطار رعدية وانخفاض في درجات الحرارة بالعراق خلال الأيام المقبلة

أمطار رعدية وانخفاض في درجات الحرارة بالعراق خلال الأيام المقبلة

2026-11-16 08:30 9820
مباريات نارية اليوم في دوري الأمم الأوروبية وتصفيات أفريقيا… إليكم المواعيد

مباريات نارية اليوم في دوري الأمم الأوروبية وتصفيات أفريقيا… إليكم المواعيد

2026-11-16 11:04 7844
ابتداءً من اليوم... تسيير فرق تفتيشية لمراقبة التسعيرة الموحدة للأدوية بالعراق

ابتداءً من اليوم... تسيير فرق تفتيشية لمراقبة التسعيرة الموحدة للأدوية بالعراق

2026-11-16 10:49 11149
موعد تاريخي في الصين... شي وبوتين وترمب على طاولة واحدة لأول مرة

موعد تاريخي في الصين... شي وبوتين وترمب على طاولة واحدة لأول مرة

2026-11-16 10:24 7049
البروتين والألياف... ثنائي غذائي يساعدك على خسارة الوزن دون جوع

البروتين والألياف... ثنائي غذائي يساعدك على خسارة الوزن دون جوع

2026-11-16 10:07 6389