تحذير مرعب: هل يمكن “تسميم” نماذج الذكاء الاصطناعي الكبرى؟
باحثون يكشفون ثغرة خطيرة في "تشات جي بي تي" و"جيميناي" تتيح تدريبها على بيانات كاذبة.. والخطر يكمن في النشر على الإنترنت!
في تطور مقلق يثير تساؤلات حول موثوقية الذكاء الاصطناعي، حذر باحثون من أن نماذج لغوية عملاقة مثل "تشات جي بي تي" (ChatGPT) و"جيميناي" (Gemini) قابلة للتلاعب والـ "تسميم" لإنتاج محتوى مضلل وغير مفهوم.
دراسة مشتركة أجراها مركز الذكاء الاصطناعي في بريطانيا، ومعهد "ألان تورينغ"، وشركة "أنتروبيك" للذكاء الاصطناعي، أوضحت أن من السهل استغلال ثغرات معينة في هذه الأدوات لتدريبها ببيانات كاذبة أو "ملوثة".…