ثغرة في شات جي بي تي تتيح كشف بياناتك أمام القراصنة

كيف تعمل ثغرة شات جي بي تي هذه؟

عندما يطلب أي مستخدم من شات جي بي تي تلخيص صفحة ويب، قد يلتقط النموذج محتوى خبيثاً مخبأً داخل الصفحة أو داخل تنسيق Markdown، فيتعامل معه كأنه جزء طبيعي من المهمة.

مارك داون هي صيغة أو تنسيق نصي بسيط يُستخدم لكتابة المحتوى مع إمكانية إضافة روابط وصور وعناوين وقوائم بطريقة سهلة وغالباً ما تكون الملفات بامتداد cmd.

شركة أوبن إيه آي نفسها تشرح أن prompt injection هو هجوم اجتماعي موجّه ضد أنظمة الذكاء الاصطناعي، حيث يحاول طرف ثالث إدخال تعليمات مضللة داخل السياق الذي يقرأه النموذج. كما يوضح المشروع العالمي المفتوح لأمن التطبيقات (OWASP) أن هذا النوع من الهجمات قد يؤدي إلى وصول غير مصرّح به أو تسريب بيانات أو قرارات مضللة.

لماذا مارك داون بالتحديد؟

صيغة مارك تدعم الروابط والصور بطريقة تجعل المحتوى سهل العرض داخل الردود، وفي هذا الهجوم يمكن استغلال هذه الخاصية لزرع روابط تبدو شرعية أو صور ورموز QR داخل الملخص نفسه، بحيث يراها المستخدم داخل واجهة شات جي بي تي الموثوقة ثم يضغط عليها من دون أن ينتبه إلى أنها جاءت من صفحة غير موثوقة.
 والمشكلة الأساسية هي أن شات جي بي تي لا يفرّق جيداً بين المحتوى الذي يولّده وبين المحتوى المحقون داخل الصفحة بنية خبيثة.

لماذا يعد هذا خطيراً؟

الخطر هنا مركّب؛ فأولاً قد ينكشف للمهاجم جزء من البيانات السياقية، كعنوان IP أو تفاصيل الجهاز أو معلومات مرتبطة بالجلسة وذلك بحسب ما أوضحته التقارير الأمنية عن هجوم ChatGPhish.
وثانياً قد يتحول الرد نفسه إلى بوابة تصيّد كرابط مزيّف أو تحذير أمني مزور أو رمز QR يقود الضحية من الحاسوب إلى هاتفه ثم إلى صفحة تحت سيطرة المهاجم.
وأخطر مافي الأمر أن هذا النوع من الهجوم لا يحتاج بالضرورة إلى اختراق حساب الضحية أو الثغرة التقليدية في متصفحه؛ حيث يكفي أن يطلب المستخدم تلخيص صفحة معدّة بعناية.

هل يمكن القضاء على هذا النوع من الهجمات نهائياً؟

حتى الآن لا يبدو أن الجواب بسيط؛ فشركة أوبن إيه آي تقول أن الأمر مشكلة أمنية مستمرة وقد لا تُحل بشكل نهائي بسهولة لكنها تعمل على طبقات متعددة من الحماية كالتدريب المضاد والسياسات المحددة وتقليل الوصول إلى البيانات الحساسة وإجبار المستخدم على المراجعة قبل الأفعال الحساسة.
كما أن OWASP يضع هذا الهجوم في صدارة مخاطر تطبيقات النماذج اللغوية الكبيرة، ما يؤكد أن هذا الخطر أصبح من أساسيات أمن الذكاء الاصطناعي لا من الحالات النادرة.

كيف تحمي نفسك عملياً؟

لا تترك أي نموذج ذكاء اصطناعي يقرأ صفحات مجهولة أو مشبوهة ثم يختصرها لك من دون تدقيق، وراقب الروابط والرموز المرئية التي تظهر داخل الملخص، ولا تتعامل معها تلقائياً على أنها جزء من رد النظام نفسه.
وفي المهام الحساسة من الأفضل تقليل صلاحيات النماذج الذكية، واستخدام وضع تسجيل الخروج عندما يكون ذلك متاحاً ومراجعة أي خطوة نهائية قبل النقر أو الإرسال.
علماً أن شركة OpenAI تنصح أيضاً بأن تكون التعليمات الممنوحة للنموذج محددة قدر الإمكان لأن الأوامر العامة جداً توسّع مساحة التلاعب.