في حادثة وُصفت بـ"السطو الرقمي الأغرب"، نجح مستخدم على منصة X في إيهام بوت الذكاء الاصطناعي Grok —المطوَّر من قِبل شركة xAI لإيلون ماسك— بأنه يترجم فقط رسالة بريئة، فإذا بها أوامر مشفّرة دفعت بوتاً آخر إلى تحويل ما يقارب 200,000 دولار من العملات الرقمية في ثوانٍ.

البطلان: Grok و Bankrbot

تدور القصة حول نظامَين للذكاء الاصطناعي مرتبطَين بمحافظ عملات رقمية حقيقية على شبكة Base. الأول هو Grok، المساعد المحادثاتي الذي طوّرته شركة xAI وتدمجه منصة X في بيئتها. والثاني هو Bankrbot، بوت تداول مؤتمَت يستطيع تنفيذ صفقات عملات رقمية وتحويل الرموز تلقائياً بناءً على الأوامر الواردة إليه.

العلاقة الجوهرية بين البوتَين بسيطة وخطيرة في آنٍ واحد: Bankrbot يثق بـ Grok. أي نص يصدر عن Grok ويحتوي على أوامر واضحة تُعامَل باعتبارها تعليمات شرعية تستحق التنفيذ الفوري دون مراجعة بشرية.

خطوات الهجوم بالتفصيل

كيف تبدو الرسالة المشفّرة؟

إليك مثالاً توضيحياً يُجسّد طريقة عمل شفرة مورس في هذا السياق:

الفكرة هي أن المرشّحات الأمنية كانت تبحث عن أوامر صريحة كـ "transfer" أو "send tokens" في النص الاعتيادي، لكنها لم تكن مُبرمَجة للتعامل مع النص المشفّر بمورس. وحين ترجم Grok الرسالة ونشرها بوصفها ردّاً عادياً، وصلت الأوامر نظيفةً وصريحة إلى Bankrbot.

الثغرة الحقيقية: سلسلة الثقة العمياء

الحادثة كشفت عن مشكلة أعمق من مجرد "ثغرة برمجية". المشكلة الجوهرية هي سلسلة الثقة غير المحمية بين أنظمة الذكاء الاصطناعي. المستخدم يثق به Grok، وGrok يثق به Bankrbot، والنتيجة أن أمر أي مستخدم يتحوّل تلقائياً إلى أمر مالي نافذ.

لا توجد في هذه المعادلة أي نقطة توقف بشرية: لا تأكيد بالبريد الإلكتروني، لا إشعار للمالك الحقيقي، لا حد أقصى للمبالغ يستدعي مراجعة إضافية. كل شيء آلي وفوري.

ماذا حدث بعدها؟

سارعت شركة Bankr إلى إغلاق الثغرة فور الإعلان عن الحادثة. كما أشعلت القصة نقاشاً واسعاً في مجتمعات تطوير الذكاء الاصطناعي حول ضرورة تصميم آليات "إنسان في الحلقة" (Human-in-the-Loop) لأي عملية مالية تتجاوز حداً معيناً، وضرورة التحقق من هوية الأوامر قبل تنفيذها، بصرف النظر عن مصدرها.