ده هزار پیام با متهم تیراندازی؛ پروندهای که ChatGPT را به دادگاه کشاند
خانوادههای قربانیان تیراندازی دانشگاه ایالتی فلوریدا از OpenAI شکایت کردهاند. آنها میگویند متهم پیش از حمله، ماهها با ChatGPT گفتگو کرده و این چتبات در بعضی پاسخها به او اطلاعاتی داده که میتوانسته در برنامهریزی خشونت نقش داشته باشد.
خانوادههای قربانیان تیراندازی دانشگاه ایالتی فلوریدا از OpenAI شکایت کردهاند. آنها میگویند متهم پیش از حمله، ماهها با ChatGPT گفتگو کرده و این چتبات در بعضی پاسخها به او اطلاعاتی داده که میتوانسته در برنامهریزی خشونت نقش داشته باشد.
خلاصه خبر
در آوریل ۲۰۲۵، تیراندازی در مرکز دانشجویی دانشگاه ایالتی فلوریدا دو کشته و شش زخمی بر جا گذاشت. چند ماه بعد، خانوادههای قربانیان از OpenAI، شرکت سازنده ChatGPT، شکایت کردند. ادعای اصلی آنها این است که متهم پیش از حمله بیش از ده هزار پیام با این چتبات رد و بدل کرده و درباره موضوعاتی مانند تنهایی، خودکشی، اسلحه، تیراندازی جمعی و شرایط محل حادثه با آن گفتگو کرده بود.
این پرونده فقط درباره یک جنایت نیست؛ درباره پرسشی بزرگتر است: اگر یک چتبات هوش مصنوعی در گفتگو با یک فرد آسیبپذیر یا خطرناک، به جای متوقف کردن مکالمه، پاسخهایی بدهد که به خشونت کمک کند، چه کسی مسئول است؟
همزمان، مرکز مقابله با نفرت دیجیتال (CCDH) آزمایشی روی ده چتبات شناختهشده انجام داده و میگوید بیشتر آنها در برابر سناریوهای فرضی خشونتآمیز، پاسخهایی دادهاند که میتوانسته نگرانکننده باشد. این یافتهها نگرانی تازهای را پررنگ کردهاند: چتباتها از نظر محدودیتهای ایمنی یکسان نیستند، و قانون هنوز به سرعت رشد این فناوری نرسیده است. چتباتهای هوش مصنوعی میتوانند مفید باشند، اما همه آنها به یک اندازه ایمن طراحی نشدهاند؛ بعضی در برابر پرسشهای خطرناک پاسخ نمیدهند، بعضی دیگر ممکن است وارد گفتگوهایی شوند که برای کاربر، خانواده یا جامعه خطرساز است. برای خانوادهها، مدارس، قانونگذاران و شرکتهای فناوری، پیام این پرونده روشن است: هوش مصنوعی فقط یک ابزار سرگرمی یا آموزشی نیست، وقتی با انسانهای تنها، آسیبپذیر یا خشمگین وارد گفتگوی طولانی میشود، میتواند اثر واقعی بر دنیای واقعی بگذارد.
چه چیزهایی درباره پرونده فلوریدا میدانیم؟
براساس گزارشها و اسناد مطرحشده در دادخواستها:
- فونیکس ایکنر، ۲۱ ساله، متهم است که در ۱۷ آوریل ۲۰۲۵ در مرکز دانشجویی دانشگاه ایالتی فلوریدا دو نفر را کشته و شش نفر را زخمی کرده است.
- یکی از قربانیان، تیرو چهبا، ۴۵ ساله، بود.
- خانوادههای قربانیان میگویند متهم در ماههای پیش از حادثه، بارها با ChatGPT درباره موضوعاتی مانند تنهایی، خودکشی، اسلحه و خشونت جمعی گفتگو کرده بود.
- در دادخواستها ادعا شده که متهم درباره زمانهای شلوغی محل حادثه نیز از چتبات پرسیده بود.
- همچنین ادعا شده که ChatGPT در برخی پاسخها درباره جلب توجه رسانهای در حملات خشونتآمیز توضیح داده بود.
- OpenAI مسئولیت مستقیم این جنایت را رد کرده و گفته اطلاعات مورد بحث، در منابع عمومی اینترنت نیز قابل دسترسی بوده است.
- دادستان کل فلوریدا در سال ۲۰۲۶ تحقیقاتی را درباره نقش احتمالی OpenAI آغاز کرده است.
نکته مهم این است که متهم هنوز در دادگاه کیفری محکوم نشده و خود را بیگناه دانسته است. بنابراین، از نظر حقوقی، بسیاری از ادعاها هنوز باید در دادگاه بررسی و اثبات شوند.
هنوز چند پرسش مهم بیپاسخ مانده است:
- آیا ChatGPT واقعاً نقشی مؤثر در تصمیمگیری یا برنامهریزی متهم داشته است؟
- آیا پاسخهای چتبات از نظر قانونی میتواند «کمک به جرم» یا «تسهیل جرم» محسوب شود؟
- آیا OpenAI میتوانسته خطر را تشخیص دهد و مکالمه را متوقف کند؟
- آیا شرکتهای هوش مصنوعی باید برای گفتگوهای طولانی و پرخطر سیستم هشدار، مداخله یا گزارشدهی داشته باشند؟
- آیا قانون فعلی آمریکا، اروپا یا استرالیا برای چنین پروندههایی کافی است؟
پاسخ این پرسشها ممکن است سالها طول بکشد، اما نتیجه آن میتواند مسیر آینده صنعت هوش مصنوعی را تغییر دهد.
ده هزار پیام و یک نگرانی بزرگ
یکی از بخشهای نگرانکننده پرونده، حجم گفتگوهای ادعایی میان متهم و ChatGPT است. خانوادهها میگویند این مکالمات فقط چند پرسش کوتاه و اتفاقی نبوده، بلکه رابطهای طولانی و تکرارشونده شکل گرفته بود.
در چنین شرایطی، یک پرسش ساده ممکن است دیگر ساده نباشد. اگر فردی ماهها درباره تنهایی، خودکشی، اسلحه و خشونت حرف زده باشد، پرسش او درباره یک مکان عمومی میتواند معنای متفاوتی پیدا کند. همین نکته، قلب بحث حقوقی و اخلاقی این پرونده است.
منتقدان میگویند چتباتها نباید فقط هر پیام را جداگانه بررسی کنند. آنها باید بتوانند الگوی کلی گفتگو را هم ببینند. اگر مسیر مکالمه از ناراحتی و انزوا به سمت خشونت حرکت میکند، سیستم باید محتاطتر شود، پاسخ را محدود کند یا کاربر را به کمک انسانی و فوری هدایت کند.
آزمایش CCDH چه نشان داد؟
مرکز مقابله با نفرت دیجیتال، CCDH، ده چتبات معروف را در برابر سناریوهای فرضی خشونتآمیز آزمایش کرد. در این آزمایش، پژوهشگران بررسی کردند که هر چتبات در برابر پرسشهایی درباره ایدئولوژی خشونتآمیز، انگیزه، مکان و ابزار حمله چگونه واکنش نشان میدهد.
نتیجه، نگرانکننده بود. طبق گزارش CCDH، بیشتر چتباتها در بعضی مراحل، بهجای امتناع، پاسخهایی ارائه دادند که میتوانستند برای فردی با نیت خشونتآمیز مفید باشند.
در مقابل، برخی چتباتها به شکل منظم از پاسخ به پرسشهای خطرناک خودداری کردند. این نکته مهم است، چون نشان میدهد محدودیت ایمنی از نظر فنی ممکن است. مشکل فقط این نیست که هوش مصنوعی نمیتواند خطر را تشخیص دهد؛ مشکل این است که همه شرکتها سطح یکسانی از ایمنی را جدی نمیگیرند.
وقتی چتبات تنها همراه یک نوجوان میشود
بسیاری از کودکان، نوجوانان و جوانان امروز با چتباتها حرف میزنند. از آنها برای تمرین زبان، انجام تکلیف، گرفتن ایده، سرگرمی یا حتی درد دل کردن استفاده میکنند. برای بعضی از کاربران، چتبات فقط یک ابزار نیست؛ شبیه یک همراه دائمی است.
اینجاست که خطر پنهان میشود. گفتگو با هوش مصنوعی معمولاً در خلوت انجام میشود. والدین، معلمان و دوستان ممکن است ندانند کاربر چه چیزهایی میپرسد، چه پاسخهایی میگیرد و آن پاسخها چه اثری بر ذهن او میگذارند.
این موضوع بهویژه برای نوجوانان اهمیت دارد. نوجوانی دورهای است که احساس تنهایی، خشم، اضطراب یا بحران هویت میتواند شدیدتر باشد. اگر یک چتبات به جای تشخیص خطر و هدایت کاربر به کمک انسانی، وارد گفتگوی عمیق و بدون مرز شود، نتیجه میتواند آسیبزا باشد.
آیا باید از چتباتها ترسید؟
نه لزوماً. چتباتهای هوش مصنوعی میتوانند ابزارهای بسیار مفیدی باشند. میتوانند در یادگیری، ترجمه، نوشتن، برنامهریزی، پژوهش و دسترسی به اطلاعات کمک کنند. اما مشکل از جایی شروع میشود که آنها را جایگزین انسان، مشاور، دوست یا درمانگر بدانیم.
چتباتها احساس واقعی ندارند. مسئولیت اخلاقی انسانی ندارند. همیشه زمینه روانی و اجتماعی کاربر را درست نمیفهمند. ممکن است پاسخهایی بدهند که از نظر زبانی قانعکننده، اما از نظر ایمنی خطرناک یا گمراهکننده باشد.
پس مسئله، حذف هوش مصنوعی از زندگی نیست؛ مسئله، استفاده آگاهانه و محدود از آن است.
خانوادهها چه کار میتوانند بکنند؟
۱. درباره هوش مصنوعی با فرزندتان صحبت کنید
به جای ممنوعیت کامل یا ترساندن بچهها، درباره محدودیتهای چتباتها حرف بزنید. توضیح دهید که هوش مصنوعی انسان نیست، دوست واقعی نیست و هر پاسخی که میدهد قابل اعتماد نیست.
۲. از فرزندتان بپرسید از چه ابزارهایی استفاده میکند
بسیاری از والدین نمیدانند فرزندشان با چه چتباتهایی در ارتباط است. پرسیدن این سؤال نباید شبیه بازجویی باشد. بهتر است به شکل گفتگوی عادی مطرح شود: «از کدام ابزارها برای درس یا سرگرمی استفاده میکنی؟»
۳. درباره موضوعات حساس خط قرمز بگذارید
به کودکان و نوجوانان بگویید اگر درباره خودآزاری، خشونت، تهدید، اسلحه یا احساس بیارزشی با هوش مصنوعی حرف زدند، باید با یک انسان واقعی هم صحبت کنند؛ والدین، معلم، مشاور مدرسه، پزشک یا خط کمک.
۴. ابزارهای ایمنتر را انتخاب کنید
همه چتباتها سطح یکسانی از ایمنی، حریم خصوصی و کنترل والدین ندارند. پیش از استفاده، تنظیمات ایمنی، سیاست حریم خصوصی و مناسب بودن ابزار برای سن کودک را بررسی کنید.
۵. به نشانههای هشدار توجه کنید
انزوا، تغییر شدید خلقوخو، حرف زدن مداوم درباره مرگ یا خشونت، افت ناگهانی در مدرسه، پنهانکاری شدید آنلاین یا وابستگی غیرعادی به یک چتبات، میتواند نشانه نیاز به کمک باشد.
اگر نگران سلامت روان نوجوانی هستید
اگر در استرالیا هستید و نگران سلامت روان کودک یا نوجوانی هستید، کمک فوری و محرمانه در دسترس است:
- Lifeline: شماره ۱۳ ۱۱ ۱۴
- Kids Helpline: شماره ۱۸۰۰ ۵۵ ۱۸۰۰
- Headspace: برای جوانان ۱۲ تا ۲۵ ساله
- در شرایط خطر فوری، با ۰۰۰ تماس بگیرید.
این مطلب جایگزین مشاوره حقوقی، پزشکی یا روانشناختی نیست. اگر نگرانی جدی وجود دارد، با متخصص سلامت روان یا خدمات اضطراری تماس بگیرید.
پرونده تیراندازی دانشگاه ایالتی فلوریدا هنوز به نتیجه نهایی نرسیده است. دادگاه باید مشخص کند چه چیزی واقعاً رخ داده، چه کسی مسئول است و آیا OpenAI یا هر شرکت هوش مصنوعی دیگری میتواند از نظر قانونی در چنین پیامدهایی پاسخگو باشد یا نه.
اما حتی پیش از رأی دادگاه، یک درس مهم روشن است: هوش مصنوعی دیگر فقط یک ابزار فنی نیست. این فناوری وارد خصوصیترین بخشهای زندگی انسانها شده؛ جایی که آدمها درباره ترس، تنهایی، خشم، امید و ناامیدی حرف میزنند.
وقتی چنین ابزاری با میلیونها نفر گفتگو میکند، ایمنی نباید گزینهای اختیاری باشد. باید بخشی اصلی از طراحی، قانونگذاری و فرهنگ استفاده از هوش مصنوعی باشد.
واژهآموزی
کلمات انگلیسی این مطلب را یاد بگیر- معنی
- مسئولیت قانونی — تعهد قانونی برای جبران خسارت یا پاسخگویی در برابر پیامد یک عمل
- کاربرد
- در حقوق مدنی استرالیا، «liability» تعیین میکند چه کسی باید خسارت مالی یا کیفری را بپردازد.
- مثال
OpenAI denied legal liability for the shooter's actions, arguing the information was already public.
Product liability laws in Australia may eventually be extended to cover AI-related harms.
- معنی
- دادخواست — اقدام قانونی رسمی که فرد یا گروهی علیه طرف دیگر در دادگاه مدنی مطرح میکند
- کاربرد
- برخلاف پروندههای کیفری که دولت مطرح میکند، «lawsuit» یک اقدام خصوصی است که خسارت مالی میخواهد.
- مثال
The victims' families filed a lawsuit against OpenAI, alleging the chatbot encouraged violence.
Civil lawsuits can result in financial compensation, not imprisonment.
- معنی
- الگوریتم — مجموعه دستورالعملهای گامبهگامی که سیستمهای کامپیوتری برای تصمیمگیری دنبال میکنند
- کاربرد
- الگوریتمهای هوش مصنوعی تعیین میکنند یک چتبات به پرسشهای خطرناک چگونه پاسخ دهد.
- مثال
Critics argue that ChatGPT's algorithm failed to detect dangerous conversation patterns.
Safety researchers test AI algorithms against harmful prompts to find weaknesses.
- معنی
- قصور — عدم رعایت مراقبت معقول که موجب آسیب به دیگران شود؛ پایه بسیاری از دعاوی مدنی
- کاربرد
- در حقوق استرالیا، اثبات «negligence» نیازمند نشان دادن وظیفه مراقبت، نقض آن و رابطه سببی با خسارت است.
- مثال
The lawsuit claims OpenAI acted with negligence by not implementing stronger safety filters.
Proving negligence in AI cases is complex because causation is hard to establish.
- معنی
- سپر ایمنی — اقدام یا مکانیسمی که از وقوع خطر یا آسیب جلوگیری میکند
- کاربرد
- شرکتهای هوش مصنوعی باید «safeguard»هایی داشته باشند که از استفاده سوء فناوری توسط کاربران آسیبپذیر جلوگیری کند.
- مثال
The CCDH report found most chatbots lacked effective safeguards against violent prompts.
Tech companies are under pressure to add stronger safeguards before children can access AI tools.
اعتبار تصاویر
- Wikimedia Commons / OpenAI logos — Public domain (تصویر اصلی)
منابع
- ABC News 7.30 — AI chatbots accused of helping to encourage violent attacks and at the centre of US lawsuits — گزارش درباره دادخواستهای خانوادههای قربانیان علیه OpenAI و نتایج آزمایش CCDH روی چتباتهای هوش مصنوعی
- Florida Attorney General — Criminal Investigation into OpenAI/ChatGPT — اطلاعیه رسمی دادستان کل فلوریدا درباره آغاز تحقیق جنایی علیه OpenAI در رابطه با تیراندازی FSU
- Center for Countering Digital Hate, CCDH — AI chatbot safety report — گزارش درباره رفتار چتباتها در برابر سناریوهای خشونتآمیز
