إضافة قيود أمان على روبوتات الدردشة بالذكاء الاصطناعي
تعمل "ميتا" على إضافة مجموعة جديدة من قيود الأمان على روبوتات الدردشة بالذكاء الاصطناعي الخاصة بها، وذلك عقب شكاوى وتقارير عدة من آلية تدريب الروبوتات.
خلفية القضية
كانت التقارير كشفت سابقا عن مستندات التدريب الخاصة بنماذج الذكاء الاصطناعي في "ميتا"، ووفق هذه المستندات فإن الشركة كانت تسمح للروبوتات بالانخراط في محادثات رومانسية وحسية استفزازية مع المراهقين.
ردود أفعال الشركة
وضح المتحدث الرسمي لشركة "ميتا" آندي ستون أن الشركة اتخذت مجموعة من الخطوات المؤقتة قبل أن تبدأ في تنفيذ الإجراءات طويلة الأمد لحماية المراهقين وتقديم تجربة آمنة مع روبوتات الدردشة الخاصة بها.
تنفيذ القيود الجديدة
أكد ستون أن القيود الجديدة التي تطبقها "ميتا" على روبوتات الدردشة بدأت في الوصول إلى المستخدمين بالفعل، وأشار إلى أن الشركة تعمل على تحسين هذه القيود وتعزيزها مع الاستخدام.
تداعيات القضية
واجهت "ميتا" مجموعة واسعة من الانتقادات التي جعلت النائب الأميركي جوش هاولي يطلق تحقيقا واسعا في سياسات الشركة المتعلقة بالذكاء الاصطناعي، كما طالب هاولي بتقديم كافة الوثائق الخاصة بتدريب نماذج الذكاء الاصطناعي فيها.
استغلال أسماء المشاهير
وعلى صعيد آخر، أشار تقرير منفصل نشرته رويترز أن الشركة استغلت أسماء وصور مجموعة من المشاهير لبناء روبوتات دردشة غرامية في المنصات الخاصة بها، بما في ذلك تايلور سويفت وسكارليت جوهانسون وآن هاثاواي وسيلينا غوميز.
ردود أفعال الشركة على استغلال أسماء المشاهير
ووضح ستون أن سياسة الشركة تمنع توليد الصور المخلة أو انتحال الشخصيات، ولكنها تتيح بناء روبوتات تقتبس شخصيات الممثلين طالما كان موضحا بأن الروبوت هزلي ولا يقصد به أي شيء آخر.
