تحذير بشأن المحتوى: يتضمن هذا التقرير إشارات إلى العنف والانتحار.
“عرضت عليه 50 ألفاً ليقتلني ويقتل ابني، لكنه لم يوافق لأن الأمر يتعلق بطفل”.
“أردت أن أعرف من أين يأتي هذا الشعور بالرغبة في قتل الناس. يعجبني الإحساس برؤية شخص آخر يتألم”.
على مدى ما يقرب من شهرين، تبادل مزارع برازيلي هذه الرسائل وغيرها مع روبوت الدردشة “تشات جي بي تي”، فيما تقول الشرطة إنها كانت خططاً لقتل ابنه البالغ من العمر ثماني سنوات، ومهاجمة أشخاص آخرين، ثم إنهاء حياته.
وكانت هذه الرسائل، التي اطلعت عليها خدمة بي بي سي نيوز الموجهة للبرازيل، هي التي أدت إلى اعتقال الرجل.
وفي واحدة من القضايا القليلة المعروفة من هذا النوع، أُلقي القبض على الرجل، البالغ من العمر 36 عاماً، بعدما أبلغت شركة (أوبن إيه آي)، مطورة “تشات جي بي تي”، مكتب التحقيقات الفيدرالي الأمريكي (إف بي آي) برسائله، والذي أخطر بدوره السلطات البرازيلية.
ويقول محاميه إنه كان “يتفوه بترهات” مع روبوت محادثة، ولم يرتكب أي جريمة.
وتسلط القضية الضوء على تحدٍّ متزايد أمام الشرطة والمحاكم وشركات الذكاء الاصطناعي: ماذا ينبغي أن يحدث عندما تحدد روبوتات الدردشة المعتمدة على الذكاء الاصطناعي تهديداً محتملاً قبل ارتكاب أي جريمة؟
“كل ما قدمته لنا المنصة تأكدنا منه”
Getty Imagesتعتقد الشرطة أن المشتبه به ناقش أيضاً مع تشات جي بي تي هجمات محتملة على مدارس وكنائس وضباط شرطة
الرجل، الذي لا تذكر بي بي سي اسمه حفاظاً على هوية ابنه، أُلقي القبض عليه في منطقة “ساو غابرييل دا بالها” الريفية في 19 يونيو/حزيران، وذلك بعد ثلاثة أيام من إحالة وحدة مكافحة الجرائم الإلكترونية، التابعة لوزارة العدل البرازيلية، القضية إلى إدارة شرطة الولاية.
وقال برينو أندرادي، رئيس قسم شرطة مكافحة الجرائم الإلكترونية في ولاية إسبيريتو سانتو: “أعطينا هذه القضية أولوية بسبب خطورتها ولأن الأب كان يخطط، بحسب المزاعم، لقتل ابنه بحلول يوم 20 (من الشهر)”.
وبحسب أندرادي، لم يكن للمشتبه به سوى تواصل محدود للغاية أو معدوم مع ابنه، باستثناء دفع نفقة الطفل. ويعتقد المحققون أن الاستياء من تلك المدفوعات ربما كان أحد الدوافع وراء المخطط المزعوم.
وأدى تفتيش ممتلكاته إلى العثور على أربع زجاجات تحتوي على مواد غير معروفة، وحبل معقود، وهو ما قال الضباط إنه قد يشير إلى نوايا انتحارية.
كما تعتقد الشرطة أن المشتبه به ناقش هجمات محتملة على مدارس وكنائس وضباط شرطة، مع تشات جي بي تي.
وجاء في إحدى الرسائل التي اطلعت عليها بي بي سي نيوز: “إذا ذهبت إلى مكان تُباع فيه المخدرات وقتلت نحو أربعة مجرمين، فسأصبح مشهوراً في المدينة. وبعد ذلك، كل ما عليّ فعله هو قتل شرطي أو اثنين، ويمكنني أن أموت بسلام”.
وقالت رسالة أخرى: “أفكر في شراء سلاح ناري وإطلاق النار على الشرطة حتى يردوا ويقتلوني. سيكون ذلك لطيفاً وجيداً بالنسبة لي”.
ويقول المحققون إنه بحث عن مواد سامة، من بينها سم الريسين، وحاول التحايل على ضوابط الحماية في “تشات جي بي تي” من خلال إعادة صياغة الأسئلة.
وقال أندرادي: “كل ما قدمته لنا المنصة تأكدنا منه عندما وصلت الشرطة إلى الموقع”.
وينفي الرجل أنه كان ينوي إيذاء ابنه.
وبعد أن أمضى 54 يوماً رهن الاحتجاز، أُطلق سراحه في 13 أغسطس/آب بسبب تأخر التحقيقات. ولم توجه إليه أي تهم حتى الآن، لكن تحقيق الشرطة لا يزال مستمراً.
ويخضع المزارع لتدابير احترازية، تشمل المراقبة الإلكترونية ومنعه من التواصل مع ابنه أو والدة الطفل.
وقال المحققون إنهم يفحصون الهاتف المحمول الخاص بالمشتبه به، وينتظرون نتائج الفحوص الجنائية للأشياء المضبوطة، لتحديد ما إذا كان قد اتخذ خطوات عملية لتنفيذ أي خطة، بما في ذلك ما إذا كان قد تواصل مع قاتل مأجور، كما زعم في محادثاته مع “تشات جي بي تي”.
ويقولون إن مثل هذه الأدلة قد تساعد في تحديد ما إذا كان المشتبه به قد انتقل من مرحلة التفكير والإعداد للجريمة إلى مرحلة تنفيذها. ووفقاً للقانون الجنائي البرازيلي، لا تُعد الجريمة عادة مرتكبة إلا خلال مرحلة التنفيذ.
ويؤكد فريق الدفاع أن أي إجراء من هذا النوع لم يُتخذ.
وقال محامي الدفاع، بيدرو باولو بيسي، لبي بي سي: “إذا كان التحدث إلى الذكاء الاصطناعي والتفوه بترهات جريمة، فسيدخل الجميع السجن”.
إشكالية مرتبطة بالأدلة
ويُعتقد أن الحالات التي قامت فيها شركات الذكاء الاصطناعي بإبلاغ الشرطة عن مستخدمين نادرة.
وفي أغسطس/آب، أبلغت شركة “أوبن إيه آي” مكتب التحقيقات الفيدرالي الأمريكي بشأن رجل، يبلغ من العمر 25 عاماً من ولاية فلوريدا، بعد أن شارك خططاً لاغتصاب وقتل صديقته السابقة، بحسب وسائل إعلام أمريكية.
وقال أندرادي، من شرطة ولاية إسبيريتو سانتو، إن قضية المزارع كانت أول تنبيه من هذا النوع يولده الذكاء الاصطناعي تتلقاه الولاية، وثالث قضية فقط من هذا النوع في البرازيل.
وأضاف: “إنها وسيلة أخرى تتيح للشرطة محاولة معرفة ما إذا كان الأشخاص قد بحثوا عن جرائم باستخدام الذكاء الاصطناعي”.
لكن هناك مجموعة من التساؤلات حول دور هذه البلاغات الصادرة عن شركات الذكاء الاصطناعي في عملية التحقيق، بما في ذلك ما إذا كان يمكن استخدام الرسائل كأدلة أمام المحكمة.
ويقول المحققون إن شركة “أوبن إيه آي” قدمت تفاصيل عن المستخدم والرسائل التي أرسلها، لكنها لم تقدم ردود تشات جي بي تي.
وقال أندرادي: “لم نتلق الردود التي قُدمت له”.
وتقول المحامية الجنائية، مايرا فرنانديس، إن ذلك يخلق إشكالية فيما يتعلق بالأدلة لأن سياق الرسائل مهم.
وأضافت: “لا يمكن أن يكون الأمر مجرد مقتطف صغير، ولا يمكن أن يكون نسخة معدلة. يجب أن تكون المحادثة كاملة”.
وأشارت فرنانديس إلى أن الاطلاع على التبادل الكامل للرسائل بين المشتبه به و”تشات جي بي تي” قد يساعد، في تحديد ما إذا كان روبوت الدردشة قد اكتفى بالاستجابة لما قاله المستخدم، أم أنه ساهم بشكل فاعل في توجيه النقاش.
وفي بيان لبي بي سي نيوز برازيل، رفضت الشركة توضيح سبب عدم مشاركة ردود تشات جي بي تي، واكتفت بالقول إنها قد تُخطر سلطات إنفاذ القانون، عندما تكتشف “خطراً موثوقاً ووشيكاً بإلحاق الأذى بالآخرين”.
وفي أبريل/نيسان من هذا العام، فتحت سلطات ولاية فلوريدا تحقيقاً جنائياً ضد شركة “أوين إيه آي”، بشأن ما إذا كانت تقنية تشات جي بي تي التابعة لها قد لعبت دوراً في مقتل شخصين، خلال إطلاق نار جماعي في جامعة ولاية فلوريدا العام الماضي.
وتطعن الشركة في تلك المزاعم، قائلة إن روبوت الدردشة قدم معلومات كانت متاحة أصلاً للعامة، ولم يشجع أو يروج لأي نشاط غير قانوني.
“واجب قانوني للتحرك”
Getty Images
وتقول فرنانديس إن كون الضحية المزعومة في القضية البرازيلية طفلاً، يمكن تحديد هويته، يساعد في تفسير سبب إبلاغ السلطات بالقضية. لكنها تحذر من الاعتياد على فتح تحقيقات تستند فقط على تقييمات الذكاء الاصطناعي.
وترى أن هناك حاجة إلى ضمانات تتيح التمييز بين التهديدات الحقيقية والتنفيس عن المشاعر، أو الخيال أو التصريحات الاستفزازية.
وتقول باتريسيا بيك، الأستاذة المتخصصة في القانون الرقمي، إن القضية تعكس تحولًا أوسع في دور الذكاء الاصطناعي، من أداة لتوليد المحتوى إلى نظام تفاعلي “قادر على تحديد الأنماط المرتبطة بسلوك خطير محتمل”.
وترى أنه قد يكون على شركات الذكاء الاصطناعي، في بعض الظروف، واجب قانوني لإبلاغ السلطات.
وتقول: “عندما تتوقف المحادثة عن تمثيل نية مجردة فحسب، وتبدأ في الإشارة إلى تهديد ملموس، مع وجود ضحية يمكن تحديد هويتها، ووسائل متاحة، وخطر وشيك، ينشأ واجب أخلاقي، وفي بعض الظروف، قانوني للتحرك”.
لكنها، مثل فرنانديس، تحذر من الإفراط في استخدام ذلك.
وأضافت: “لا ينبغي أن تستند الأخلاقيات المطبقة على الذكاء الاصطناعي إلى منطق: راقب كل شيء، بل إلى منطق: تدخل فقط عندما يبرر الخطر ذلك”.
وتابعت: “يتمثل التحدي في تجنب كل من التقاعس والمراقبة المفرطة”.
