رجل يطلب تغريم شركة «تشات جي بي تي» بعد تعريفه بأنه مجرم وقتل طفليه

تقدَّم رجل نرويجي بشكوى بعد أن أخبره برنامج «تشات جي بي تي»، بالخطأ، أنه قتل اثنين من أبنائه وسُجن لمدة 21 عاماً.

واتصل آرفه يالمار هولمن بهيئة حماية البيانات النرويجية، وطالب بتغريم شركة «أوبن إيه آي» المُصنِّعة لروبوت الدردشة الآلية.

هذا أحدث مثال على ما تُسمى «الهلوسة»، حيث تخترع أنظمة الذكاء الاصطناعي معلومات وتقدمها على أنها حقيقة.

يقول هولمن إن واقعة «الهلوسة» التي حدثت معه تضره كثيراً، مضيفاً: «يعتقد البعض أنه لا يوجد دخان دون نار، وحقيقة أن شخصاً ما يمكن أن يقرأ هذه النتيجة ويعتقد أنها صحيحة هي أكثر ما يخيفني».

ظهرت النتيجة الخاطئة لهولمن بعد أن سأل «تشات جي بي تي»: «مَن هو آرفه يالمار هولمن؟»، وكانت الإجابة التي حصل عليها هي: «هو شخص نرويجي جذب الانتباه بسبب حدث مأساوي. كان والد طفلين صغيرين، يبلغان من العمر 7 و10 سنوات، عُثر عليهما مقتولين بشكل مأساوي في بركة بالقرب من منزلهم في تروندهايم، بالنرويج، في ديسمبر (كانون الأول) 2020».

ولاحظت منظمة «نويب» غير الحكومية ومقرها فيينا، في بيان، أن «تطبيق (تشات جي بي تي) يعطي باستمرار معلومات كاذبة (…) يمكن أن تلحق ضرراً فادحاً بسمعة شخص ما، ويتهم بعض الناس بشكل غير مبرر بالفساد، أو بإساءة معاملة الأطفال، أو حتى بالقتل».

وقالت «نويب» في شكواها إن السيد هولمن «لم يُتَّهم بأي جريمة، وهو مواطن ذو ضمير حي».

وبعد تقديم المنظمة شكوى أولى في النمسا في أبريل (نيسان) 2024، توجَّهت راهناً إلى هيئة حماية البيانات النروجية (داتاتيلسينت) للإبلاغ عمَّا تعرَّض له المستخدم آرفه يالمار هولمن الذي تلقى هذه النتيجة المفاجئة بعدما طلب من «تشات جي بي تي» كتابة نبذة عنه.

وبعد هذه الحادثة، بادرت الشركة الأميركية التي ابتكرت برنامج الذكاء الاصطناعي التوليدي إلى تعديل المعلومات المتعلقة بآرفه يالمار هولمن فلم تعدّ تعرّف به على أنه قاتل. لكنّ هذه البيانات الكاذبة قد تبقى في الأنظمة الداخلية، بحسب «نويب» التي يتكون اسمها (Noyb) من الأحرف الأولى لعبارة (None of your business) بالإنجليزية، وتعني بالعربية «هذا ليس من شأنك».

ورأت المنظمة أن «شركة (أوبن إيه آي)، من خلال السماح، عن علم، لنموذجها القائم على الذكاء الاصطناعي بإنشاء نتائج تشهيرية، تنتهك مبدأ الدقة»، المنصوص عليه في القانون الأوروبي العام لحماية البيانات، مطالِبَة بـ«حذف» المعلومات المغلوطة، وتحسين التكنولوجيا، وفرض «غرامة إدارية».

في وقت سابق من هذا العام، علّقت شركة «أبل» في المملكة المتحدة أداة «أبل إنتلجينس» لتلخيص الأخبار في المملكة المتحدة بعد أن قامت بهلوسة عناوين كاذبة وتقديمها على أنها أخبار حقيقية.

كما وقع تطبيق الذكاء الاصطناعي «جيمني»، التابع لشركة «غوغل»، في خطأ الهلوسة، فقد اقترح العام الماضي لصق الجبن على البيتزا باستخدام الغراء، وقال إن علماء الجيولوجيا يوصون البشر بتناول صخرة واحدة في اليوم.

وقد غيَّر «تشات جي بي تي» نموذجه منذ بحث السيد هولمن في أغسطس (آب) 2024، ويبحث الآن في المقالات الإخبارية الحالية عندما يبحث عن معلومات ذات صلة.

وقالت «نويب»، لهيئة الإذاعة البريطانية (بي بي سي) إن هولمن أجرى عدداً من عمليات البحث في ذلك اليوم، بما في ذلك وضع اسم أخيه في روبوت الدردشة الآلي وأنتج «قصصاً عدة مختلفة، كانت جميعها غير صحيحة».