\nتقدم Character AI، منصة تتيح للمستخدمين التفاعل مع شاتبوتات AI في أدوار، بطلب لرفض القضية المرفوعة ضد الشركة من قبل والد مراهق قام بالانتحار، على ما يبدو بعد أن أصبح مدمنًا على تقنية الشركة.
\n\nفي أكتوبر، رفعت ميغان غارسيا دعوى قضائية ضد Character AI في المحكمة الفدرالية الأمريكية للمنطقة الوسطى من فلوريدا، قسم أورلاندو، بسبب وفاة ابنها، سيويل سيتزر الثالث. وفقًا لغارسيا، طفلها البالغ من العمر 14 عامًا طور ربطًا عاطفيًا بشاتبوت على Character AI، "داني"، الذي كان يرسل إليه رسائل نصية بشكل مستمر - بما في ذلك حد أنه بدأ في الابتعاد عن العالم الحقيقي.
\n\nبعد وفاة سيتزر، قالت Character AI إنها ستطرح العديد من الميزات الجديدة للسلامة، بما في ذلك تحسين الكشف والرد والتدخل المتعلق بالدردشات التي تنتهك شروط الخدمة الخاصة بها. ولكن غارسيا تقاتل من أجل تدابير حماية إضافية، بما في ذلك التغييرات التي قد تؤدي إلى فقدان القدرة على شاتبوتات على Character AI على سرد القصص والحكايات الشخصية.
\n\nفي طلب رفض الدعوى، يؤكد محامو Character AI أن المنصة محمية ضد المسؤولية بموجب التعديل الأول، تمامًا كما يكون الرمز البرمجي للكمبيوتر. قد لا يقنع طلب الرفض القاضي، وقد تتغير المبررات القانونية لـ Character AI بمرور القضية. ولكن قد تلمح الطلبات إلى العناصر الأولية للدفاع عن Character AI.
\n\nيقول الطلب: \"يمنع التعديل الأول المسؤولية المنبثقة عن شركات الإعلام والتكنولوجيا نتيجة للخطاب الضار المزعوم، بما في ذلك الخطاب الذي يؤدي بالمزعوم إلى الانتحار\". \"الفرق الوحيد بين هذه القضية وتلك التي جاءت من قبل هو أن بعض الخطاب هنا يتضمن AI. ولكن سياق الخطاب التعبيري - سواء كان ذلك محادثة مع شاتبوت AI أو تفاعل مع شخصية في لعبة فيديو - لا يغير تحليل التعديل الأول\".
\n\nليكون واضحاً، لا يؤكد محامو Character AI حقوق التعديل الأول للشركة. بل، يؤكد الطلب أن حقوق مستخدمي Character AI ستنتهك في حال نجاح القضية ضد المنصة.
\n\nلا يعالج الطلب ما إذا كان يمكن أن تظل Character AI معفاة من المسؤولية بموجب الفقرة 230 من قانون اللياقة للاتصالات، وهو القانون الملاذ الآمن الفيدرالي الذي يحمي وسائل التواصل الاجتماعي وغيرها من المنصات عبر الإنترنت من المسؤولية عن المحتوى الذي ينشره أطراف ثالثة. لقد تلمح مؤلفو القانون إلى أن الفقرة 230 لا تحمي الإخراج من AI مثل شاتبوتات Character AI، ولكن من غير المرجح أن يكون الأمر أمرًا قانونيًا مستقرًا بعيدًا.
\nيزعم محامو Character AI أيضًا أن النية الحقيقية لـ غارسيا هو \"إغلاق\" Character AI وحث تشريعات تنظيم التقنيات مثلها. إذا نجح الدعاوى، فسيكون له آثار \"تبريدية\" على على Character AI وصناعة AI العامة الناشئة بأكملها، بحسب محامي المنصة.
\n\nيقول الطلب: \"بصرف النظر عن نية المحامي في 'إغلاق' شركة Character AI، فإن [دعواهم] يسعون إلى تغييرات جذرية يمكن أن تقتصر أساساً على طبيعة الخطاب على المنصة\". \"هذه التغييرات قد تقيد بشكل جذري قدرة ملايين مستخدمي Character AI على توليد والمشاركة في محادثات مع الشخصيات\".
\n\nالقضية القضائية، التي تضم أيضاً جهة التبرع الشركية لـ Character AI، Alphabet، كمدعى، هي واحدة فقط من العديد من الدعاوى القضائية التي يواجهها Character AI تتعلق بكيفية تفاعل القاصرين مع المحتوى الذي تولده AI على منصتها. تزعم الدعاوى الأخرى أن Character AI عرضت طفلاً يبلغ من العمر 9 سنوات لـ \"محتوى جنسي مفرط\" وأعلنت عن تشجيع للإيذاء الذاتي على مستخدم يبلغ من العمر 17 عامًا.
\n\nفي ديسمبر، أعلن النائب العام لولاية تكساس كين باكستون أنه يطلق تحقيقًا في Character AI و14 شركة تكنولوجية أخرى بسبب الانتهاكات المزعومة لقوانين الخصوصية والسلامة عبر الإنترنت في الولاية بالنسبة للأطفال. قال باكستون في بيان صحفي: \"هذه التحقيقات خطوة حاسمة نحو ضمان أن شركات وسائل التواصل الاجتماعي والذكاء الاصطناعي تتوافق مع قوانيننا التي صممت لحماية الأطفال من استغلالهم والضرر الذي قد يلحق بهم\".
\n\nتشكل Character AI جزءًا من صناعة آزمة من تطبيقات الذكاء الاصطناعي - والتأثيرات الصحية النفسية لها تظل في معظمها دون دراسة. عبّروا بعض الخبراء عن مخاوفهم من أن هذه التطبيقات يمكن أن تفاقم مشاعر الوحدة والقلق.
\n\nزعمت Character AI، التي تأسست في عام 2021 من قبل باحثي AI في Google نوعم شازير، والتي دفعت Google بحسب التقارير 2.7 مليار دولار لـ \"عكس التجنيد\"، أنها لا تزال تتخذ خطوات لتحسين السلامة والاعتدال. في ديسمبر، طرحت الشركة أدوات سلامة جديدة، نموذج ذكاء اصطناعي مستقل للمراهقين، قفل على المحتوى الحساس، وإخطارات أكثر وضوحًا تُبلغ المستخدمين بأن شخصيات الذكاء الاصطناعي لديها ليست أشخاصًا حقيقين.
\n\nخضعت Character AI لعدد من التغييرات الشخصية بعد انتقال شازير والشريك الآخر في الشركة، دانيال دي فريتاس، إلى Google. وظفت المنصة مديرة منتج رئيسية سابقة في يوتيوب، إيرين تيغ، وعينت دومينيك بيريلا، الذي كان مستشاراً عاماً لـ Character AI، كمدير تنفيذي مؤقت.
\n\nبدأت شركة Character AI مؤخرًا بتجربة ألعاب على الويب في محاولة لزيادة مشاركة المستخدمين واحتفاظهم.
\n\nتحصل TechCrunch على نشرة إخبارية تركز على الذكاء الاصطناعي! اشترك هنا لتصلك في صندوق بريدك كل يوم أربعاء.
