أفادت تقارير حديثة عن اكتشاف باحثين لطريقة تمكنهم من تجاوز آليات التحكم في إنتاج الصور ضمن نماذج الذكاء الاصطناعي، وبالتحديد في "تشات جي بي تي". هذه الثغرة، التي كشف عنها لبي بي سي، أتاحت للمستخدمين توليد صور غير ملائمة بمجرد تعديلات بسيطة على المدخلات النصية، مما يثير تساؤلات جدية حول سلامة المحتوى الرقمي.

### تداعيات الثغرة وإجراءات "أوبن إيه آي"

تكمن خطورة هذه الثغرة في إمكانية استغلالها لإنتاج ونشر محتوى غير أخلاقي أو عنيف، مما يهدد بمعايير المحتوى الآمن على الإنترنت. هذا التطور دفع شركة "أوبن إيه آي"، المطورة لتشات جي بي تي، إلى التحرك بسرعة. فقد أفادت الشركة بأنها بادرت بالتحقيق في الثغرة فور علمها بها، وأضافت إجراءات حماية جديدة بهدف سد هذه الفجوة الأمنية ومنع تكرار مثل هذه الانتهاكات.

ما طبيعة الثغرة المكتشفة؟

تسمح الثغرة بالتحايل على ضوابط الأمان المبرمجة في "تشات جي بي تي"، مما يتيح له توليد صور ذات طبيعة حساسة أو عنيفة من خلال أوامر معدلة.

كيف استجاب باحثون لـ "بي بي سي"؟

أوضح الباحثون في حديثهم أنهم تمكنوا من إنتاج محتوى صادم عبر تعديلات "بسيطة" على الأوامر المعتادة، مما يبرز سهولة استغلالها.