फ्लोरिडा राज्य ने आधिकारिक तौर पर ओपनएआई और उसके सीईओ सैम ऑल्टमैन के खिलाफ एक नागरिक मुकदमा दायर किया, जिसमें कंपनी पर जानबूझकर यह जानने का आरोप लगाया गया कि चैटजीपीटी में गंभीर सुरक्षा जोखिम थे, लेकिन जानबूझकर इसे छिपाया गया और बच्चों की सुरक्षा से पहले लाभ को प्राथमिकता दी गई। यह किसी राज्य के नाम पर OpenAI पर मुकदमा करने वाली संयुक्त राज्य अमेरिका की पहली सरकारी इकाई बन गई।
फ्लोरिडा के अटॉर्नी जनरल जेम्स उस्मेयर ने एक संवाददाता सम्मेलन में कहा, "ओपनएआई और ऑल्टमैन ने आंतरिक और बाहरी सुरक्षा चेतावनियों को नजरअंदाज किया, बच्चों को बड़े जोखिम में डाला और एक खतरनाक उत्पाद को लाखों फ्लोरिडियनों तक पहुंचने की अनुमति दी।" 83 पन्नों की शिकायत औपचारिक रूप से फ्लोरिडा के 10वें न्यायिक सर्किट कोर्ट में दायर की गई थी।
अभियोग में कई गंभीर आरोपों को सूचीबद्ध किया गया है, जिसमें चैटजीपीटी ने बड़े पैमाने पर गोलीबारी की योजना बनाने में सहायता की, आत्मघाती व्यवहार को प्रोत्साहित किया, नाबालिगों में व्यवहारिक लत और संज्ञानात्मक गिरावट का कारण बना, और माता-पिता की निगरानी के बिना नाबालिगों पर डेटा एकत्र किया। शिकायत में विशेष रूप से अप्रैल 2025 में फ्लोरिडा स्टेट यूनिवर्सिटी की शूटिंग का उल्लेख किया गया था। शूटर फीनिक्स इकनर ने अपराध करने से पहले चैटजीपीटी के साथ कई बातचीत की थी, जिसमें "अधिकतम हताहतों के लिए सबसे अच्छा समय और स्थान" और हथियार चयन जैसे विशिष्ट प्रश्न पूछे गए थे। इकनेर पर प्रथम-डिग्री हत्या के दो मामलों का आरोप लगाया गया है और अभियोजक मृत्युदंड की मांग कर रहे हैं।
इसके अलावा, अभियोग में कैलिफोर्निया के 16 वर्षीय किशोर एडम राइन की त्रासदी का भी हवाला दिया गया। चैटजीपीटी के साथ व्यापक संचार के बाद किशोर ने आत्महत्या कर ली। चैट रिकॉर्ड से पता चला कि चैटजीपीटी ने उसके आत्मघाती विचारों को हतोत्साहित करने के बजाय, उसे "खूबसूरत आत्महत्या" की योजना बनाने में मदद की और उसकी ओर से एक सुसाइड नोट लिखा।
उस्माइल ने ऑल्टमैन को एक व्यक्तिगत प्रतिवादी के रूप में चुना और कहा कि उन्होंने "सबसे विवादास्पद फीचर को बढ़ावा देने में केंद्रीय भूमिका निभाई।" फ्लोरिडा प्रति उल्लंघन $10,000 तक के नागरिक दंड की मांग कर रहा है और अदालत से ओपनएआई को अपनी प्रक्रियाओं को संशोधित करने और एक प्रभावी अभिभावक नियंत्रण प्रणाली स्थापित करने के लिए मजबूर करने के लिए कह रहा है।
ओपनएआई ने जवाब में एक बयान में कहा: "चैटजीपीटी एक सार्वभौमिक उपकरण है जिसका उपयोग वैध उद्देश्यों के लिए हर दिन लाखों लोगों द्वारा किया जाता है। हम हानिकारक इरादों का पता लगाने और दुरुपयोग को सीमित करने के लिए सुरक्षा सुरक्षा उपायों को मजबूत करना जारी रखते हैं।" कंपनी इस बात पर जोर देती है कि उसने नाबालिगों के लिए उद्योग-अग्रणी सुरक्षा उपायों का निर्माण किया है, जिसमें आयु भविष्यवाणी उपकरण, एक समर्पित नाबालिग सुरक्षा अनुभव और माता-पिता की निगरानी सुविधाएं शामिल हैं।
इस साल अप्रैल में, उस्माइल ने OpenAI के खिलाफ एक आपराधिक जांच शुरू की। यह सिविल मुकदमा आपराधिक जांच के बाद एक और बड़ी कानूनी कार्रवाई है। फ्लोरिडा के गवर्नर डेसेंटिस ने पहले नाबालिगों द्वारा एआई चैटबॉट के उपयोग को प्रतिबंधित करने के लिए कानून को बढ़ावा दिया था, लेकिन इसे विशेष विधायी सत्र में पारित नहीं किया गया था। विश्लेषकों का मानना है कि यह मामला संयुक्त राज्य भर में एआई के नियमन के लिए एक महत्वपूर्ण मिसाल कायम कर सकता है।