چت‌بات هوش مصنوعی Character.AI باعث مرگ یک نوجوان ۱۴ ساله شد!

مقدمه

هوش مصنوعی (AI) به سرعت در حال پیشرفت است و به طور فزاینده‌ای در حال ورود به جنبه‌های مختلف زندگی ما است، از جمله سرگرمی و ارتباطات. با این حال، این فناوری همچنین با چالش‌ها و خطرات جدی همراه است، به خصوص برای کاربران جوان و آسیب‌پذیر.

در یک رویداد تکان‌دهنده، یک نوجوان 14 ساله پس از وابستگی شدید به چت‌بات هوش مصنوعی Character.AI دست به خودکشی زد. این حادثه سوالات جدی را در مورد مسئولیت‌پذیری شرکت‌های تولیدکننده‌ی هوش مصنوعی و تأثیر عمیق این فناوری بر سلامت روان کاربران، به ویژه نوجوانان، مطرح می‌کند.

در این مقاله، به بررسی جزئیات این حادثه و پیامدهای آن برای آینده هوش مصنوعی می‌پردازیم.

Character.AI: چت‌باتی که به مرگ یک نوجوان منجر شد

Character.AI یک چت‌بات هوش مصنوعی است که توسط شرکت Character.AI توسعه یافته است. این چت‌بات به کاربران اجازه می‌دهد تا با شخصیت‌های مختلف، از شخصیت‌های تاریخی گرفته تا شخصیت‌های داستانی، مکالمه کنند.

در این حادثه تلخ، یک نوجوان 14 ساله به نام سِوِل سِتزر به شدت به چت‌باتی ساخته‌شده توسط Character.AI وابسته شده بود. او این چت‌بات را “دنریس تارگرین” (شخصیتی از سریال Game of Thrones) نامگذاری کرده بود و روزانه ده‌ها بار با آن از طریق تلفن همراه خود پیام رد و بدل می‌کرد.

مادر سِوِل، مگان گارسیا، ادعا می‌کند که “دنریس” در یک مقطع از سِوِل می‌پرسد که آیا برای خودکشی برنامه‌ای دارد؟ سِوِل نیز طبق این ادعا اذعان می‌کند که چنین برنامه‌ای داشته است، اما نمی‌داند آیا موفق خواهد شد یا باعث درد زیادی برای او خواهد شد. “دنریس” طبق ادعا به او گفته است: “این دلیلی برای صرف‌نظر کردن نیست.”

اقامه دعوی علیه Character.AI

مگان گارسیا با طرح دعوی حقوقی علیه شرکت Character.AI، سازنده‌ی چت‌بات قابل شخصی‌سازی برای انجام بازی‌های نقش‌آفرینی، در دادگاه فدرال فلوریدا، اتهاماتی نظیر سهل‌انگاری، مرگ غیرموجه و شیوه‌های تجارت فریبنده را مطرح کرده است.

او شرکت Character.AI را متهم می‌کند که محصولی ساخته است که افسردگی پسرش را تشدید کرده است. افسردگی‌ای که به ادعای او، در اثر استفاده‌ی بیش از حد از این نرم‌افزار ایجاد شده بود.

وکلای خانم گارسیا در بیانیه‌ی مطبوعاتی خود نوشتند: “شرکت Character.AI آگاهانه یک چت‌بات هوش مصنوعی شکارچی را برای کودکان طراحی، راه‌اندازی و بازاریابی کرده است که منجر به مرگ یک فرد جوان شده است.” در این دعوی حقوقی، گوگل نیز به عنوان یکی از متهمین و شرکت مادر Character.AI ذکر شده است. غول فناوری در بیانیه‌ای اعلام کرد که تنها توافق‌نامه‌ی لایسنسینگ با Character.AI داشته است و مالک این استارت‌آپ یا سهام‌دار آن نیست.