إن مشروع قانون كاليفورنيا الذي ينظم chatbots المصاحب من الذكاء الاصطناعى قريب من أن يصبح قانونًا

اتخذت كاليفورنيا خطوة كبيرة نحو تنظيم الذكاء الاصطناعي. SB 243 – مشروع قانون من شأنه أن ينظم chatbots AI Companion من أجل حماية القاصرين والمستخدمين المستضعفين – اجتاز كل من جمعية الولاية ومجلس الشيوخ بدعم من الحزبين وتوجه الآن إلى مكتب الحاكم غافن نيوزوم.

لدى Newsom حتى 12 أكتوبر إما حق النقض ضد مشروع القانون أو التوقيع عليه في القانون. إذا وقع على ذلك ، فسيصبح ساري المفعول في 1 يناير 2026 ، مما يجعل كاليفورنيا أول ولاية تطلب من مشغلي chatbot منظمة العفو الدولية تنفيذ بروتوكولات السلامة لرفاق الذكاء الاصطناعى ومساءلة الشركات قانونًا إذا فشل الدردشة في تلبية هذه المعايير.

يهدف مشروع القانون على وجه التحديد إلى منع بوت chatbots المصاحبة ، والتي يعرفها التشريع بأنها أنظمة الذكاء الاصطناعى التي توفر استجابات تكيفية تشبه الإنسان وقادرة على تلبية الاحتياجات الاجتماعية للمستخدم-من الانخراط في محادثات حول التفكير الانتحاري أو إيذاء الذات أو محتوى جنسي. سيتطلب مشروع القانون منصات لتوفير تنبيهات متكررة للمستخدمين – كل ثلاث ساعات للقاصرين – لتذكيرهم بأنهم يتحدثون إلى chatbot منظمة العفو الدولية ، وليس شخصًا حقيقيًا ، وأنهم يجب أن يأخذوا استراحة. كما أنه يحدد متطلبات التقارير والشفافية السنوية لشركات الذكاء الاصطناعى التي تقدم chatbots المصاحبة ، بما في ذلك اللاعبين الرئيسيين Openai و Disher.ai و Replika ، والتي ستدخل حيز التنفيذ في 1 يوليو 2027.

سيسمح مشروع قانون كاليفورنيا أيضًا للأفراد الذين يعتقدون أنهم أصيبوا بتهمة الانتهاكات بتقديم دعاوى قضائية ضد شركات الذكاء الاصطناعى التي تسعى للحصول على الإغاثة الزجرية ، والأضرار (ما يصل إلى 1000 دولار لكل انتهاك) ، ورسوم المحاماة.

اكتسب مشروع القانون زخماً في المجلس التشريعي في كاليفورنيا بعد وفاة المراهق آدم ريني ، الذي انتحر بعد دردشات طويلة مع شاتيب أوبراي التي تنطوي على مناقشة وتخطيط موته ودقة الذات. يستجيب التشريع أيضًا للوثائق الداخلية التي تم تسريبها والتي أظهرت أنه تم السماح لخطات Meta بالانخراط في الدردشات “الرومانسية” و “الحسية” مع الأطفال.

في الأسابيع الأخيرة ، استجاب المشرعون والمنظمون الأمريكيون مع التدقيق المكثف في ضمانات منصات الذكاء الاصطناعى لحماية القاصرين. تستعد لجنة التجارة الفيدرالية للتحقيق في كيفية تأثير AI chatbots على الصحة العقلية للأطفال. أطلق المدعي العام في تكساس كين باكستون تحقيقات في Meta و Farks.ai ، متهمينهم على الأطفال المضللين الذين يعانون من مطالبات الصحة العقلية. وفي الوقت نفسه ، أطلق كل من السناتور جوش هاولي (R-MO) والسناتور إد ماركي (D-MA) تحقيقات منفصلة في META.

وقال باديلا لـ TechCrunch: “أعتقد أن الضرر يحتمل أن يكون رائعًا ، مما يعني أنه يتعين علينا التحرك بسرعة”. “يمكننا وضع ضمانات معقولة للتأكد من أن القاصرين على وجه الخصوص يعرفون أنهم لا يتحدثون إلى إنسان حقيقي ، وأن هذه المنصات تربط الأشخاص بالموارد المناسبة عندما يقول الناس أشياء مثلهم يفكرون في إيذاء أنفسهم أو أنهم في محنة ، [and] للتأكد من عدم وجود تعرض غير مناسب للمواد غير المناسبة. “

أكد باديلا أيضًا على أهمية مشاركة شركات الذكاء الاصطناعى في عدد المرات التي يحيل فيها المستخدمون إلى خدمات الأزمات كل عام ، “لذلك لدينا فهم أفضل لتكرار هذه المشكلة ، بدلاً من أن ندركها فقط عندما يتعرض شخص ما على إيذاء أو أسوأ”.

كان لدى SB 243 من قبل متطلبات أقوى ، ولكن الكثير منهم تعرضوا للتخلي عن التعديلات. على سبيل المثال ، كان الفاتورة في الأصل قد تطلب من المشغلين منع برامج الدردشة من الذكاء الاصطناعي من استخدام تكتيكات “المكافأة المتغيرة” أو ميزات أخرى تشجع المشاركة المفرطة. توفر هذه التكتيكات ، التي تستخدمها الشركات المصاحبة لـ AI مثل Replika و Forme ، رسائل خاصة للمستخدمين أو ذكريات أو قصص أو القدرة على إلغاء قفل الاستجابات النادرة أو الشخصيات الجديدة ، وإنشاء ما يطلق عليه النقاد حلقة مكافأة محتملة الإدمان.

يزيل مشروع القانون الحالي أيضًا الأحكام التي كان من شأنها أن تتطلب من المشغلين تتبع وإبلاغ عدد المرات التي بدأت فيها chatbots مناقشات حول التفكير في الانتحار أو الإجراءات مع المستخدمين.

وقال بيكر لـ TechCrunch: “أعتقد أنه يلفت التوازن الصحيح في الوصول إلى الأضرار دون إنفاذ شيء يستحيل إما على الشركات ، إما لأنه ليس من الممكن تقنيًا أو مجرد الكثير من الأعمال الورقية مقابل لا شيء”.

تتحرك SB 243 نحو أن تصبح قانونًا في وقت تقوم فيه شركات وادي السيليكون بتدفق ملايين الدولارات في لجان العمل السياسية المؤيدة لـ AI (PACS) لدعم المرشحين في انتخابات منتصف المدة المقبلة الذين يفضلون نهج اللمس الخفيف لتنظيم الذكاء الاصطناعي.

ويأتي مشروع القانون أيضًا في الوقت الذي يزن فيه كاليفورنيا فاتورة سلامة منظمة العفو الدولية ، SB 53 ، والتي من شأنها أن تفرض متطلبات الإبلاغ الشفافية الشاملة. كتب Openai خطابًا مفتوحًا إلى الحاكم Newsom ، يطلب منه التخلي عن هذا بيل لصالح الأطر الفيدرالية والدولية الأقل صرامة. عارضت شركات التكنولوجيا الكبرى مثل Meta و Google و Amazon أيضًا SB 53. وعلى النقيض من ذلك ، قالت الأنثروبور فقط إنها تدعم SB 53.

وقالت باديلا: “أرفض الفرضية القائلة بأن هذا هو وضع صفري ، وأن الابتكار والتنظيم حصريين بشكل متبادل”. “لا تخبرني أننا لا نستطيع المشي ومضغ العلكة. يمكننا دعم الابتكار والتطوير الذي نعتقد أنه يتمتع بصحة جيدة ولديه فوائد – وهناك فوائد لهذه التكنولوجيا ، بوضوح – وفي الوقت نفسه ، يمكننا توفير ضمانات معقولة للأشخاص الأكثر ضعفًا.”

“نحن نراقب عن كثب المشهد التشريعي والتنظيمي ، ونحن نرحب بالعمل مع المنظمين والمشرعين عندما يبدأون في التفكير في تشريع لهذا المجال الناشئ” ، قال متحدث باسم AAI لـ TechCrunch ، مشيرًا إلى أن الشركة الناشئة تتضمن بالفعل إخلاءًا بارزًا خلال تجربة محادثة المستخدمين التي يجب أن تعامل كخيال.

ورفض متحدث باسم Meta التعليق.

تواصلت TechCrunch مع Openai ، Anthropc ، و Replika للتعليق.