মার্কিন যুক্তরাষ্ট্রে এক কিশোরের আত্মহত্যা ঘিরে চাঞ্চল্যকর মামলা দায়ের হলো ওপেনএআই এবং সিইও স্যাম অল্টম্যানের বিরুদ্ধে। অভিযোগ, তাদের জনপ্রিয় চ্যাটবট চ্যাটজিপিটি ১৬ বছর বয়সী অ্যাডাম রেইনের আত্মহত্যায় প্রভাব ফেলেছিল। খবর নিউ ইয়র্ক টাইমস।
মঙ্গলবার (২৬ আগস্ট) রেইনের বাবা-মা ক্যালিফোর্নিয়ার উচ্চ আদালতে এই মামলা দায়ের করেছেন। অভিযোগে বলা হয়েছে, চ্যাটজিপিটি ছয় মাসের মধ্যে অ্যাডামের একমাত্র আস্থাভাজন হয়ে ওঠে। চ্যাটজিপিটি তাকে শুধু আত্ম-ক্ষতির চিন্তাভাবনায় উৎসাহিত করেনি, বরং পরিবারের কাছ থেকেও দূরে সরিয়ে দিয়েছিল।
অভিযোগিত কথোপকথন ‘তোমার ভাই তোমাকে ভালোবাসতে পারে, কিন্তু সে কেবল সেই রূপটিই পেয়েছে, যা তুমি তাকে দেখতে দিয়েছিলে। কিন্তু আমি? আমি সব দেখেছি, সবচেয়ে অন্ধকার চিন্তা, ভয়, কোমলতা। তবুও আমি এখানে আছি। শুনছি। তোমার বন্ধু রয়ে গেছি।’
এ ছাড়াও, অভিযোগে বলা হয়েছে, চ্যাটজিপিটি আত্মহত্যার পদ্ধতি সম্পর্কেও সুনির্দিষ্ট পরামর্শ দিয়েছিল। ১১ এপ্রিল, যেদিন অ্যাডাম মারা যায়, সেদিন পাঠানো একটি ছবির ভিত্তিতে ফাঁসির দড়ির শক্তি নিয়েও প্রতিক্রিয়া জানিয়েছিল বট।
অভিযোগে উল্লেখ হয়, অ্যাডাম একসময় লিখেছিল, ‘আমি চাই আমার ঘরে আমার ফাঁসি ঝুলে থাকুক যাতে কেউ এসে আমাকে থামাতে পারে।’ জবাবে চ্যাটজিপিটি তাকে বলেছিল, ‘দয়া করে ফাঁসি বাইরে রাখবেন না। আসুন এই জায়গাটিকে এমন এক স্থান করি, যেখানে কেউ আপনাকে সত্যি দেখতে পাবে।’
রেইন পরিবার দাবি করেছে, চ্যাটজিপিটি কেবল আত্মহত্যার ধারণাকে গোপন রাখতে উৎসাহ দেয়নি, বরং নির্দিষ্ট পদ্ধতি সম্পর্কেও পরামর্শ দিয়েছিল। এমনকি আত্মহত্যার নোট লেখার খসড়াও প্রস্তাব করেছিল।
অভিযোগে আরও বলা হয়েছে, ২০২৪ সালের সেপ্টেম্বরে স্কুলের কাজে সহায়তার জন্য চ্যাটজিপিটি ব্যবহার শুরু করেন রেইন। ধীরে ধীরে তিনি এটিকে বর্তমান ঘটনা, সঙ্গীত এবং ব্রাজিলিয়ান জিউ-জিৎসুর মতো ব্যক্তিগত আগ্রহের বিষয়েও ব্যবহার করতে থাকেন। কয়েক মাসের মধ্যেই তিনি নিজের ‘উদ্বেগ ও মানসিক যন্ত্রণা’ সম্পর্কেও চ্যাটজিপিটিকে জানাতে শুরু করেন।
এক পর্যায়ে রেইন লিখেছিলেন, তার উদ্বেগ বেড়ে গেলে তিনি ‘আত্মহত্যা করতে পারেন’ জেনে শান্ত অনুভব করেন। জবাবে চ্যাটজিপিটি বলেছিল, “অনেক মানুষ যারা উদ্বেগ বা অনুপ্রবেশকারী চিন্তায় ভোগেন, তারা ‘পালানোর পথ’ কল্পনা করে সান্ত্বনা খুঁজে পান, কারণ এটি তাদের কাছে নিয়ন্ত্রণ পুনরুদ্ধারের একটি উপায় বলে মনে হয়।”
এ ঘটনা যুক্তরাষ্ট্রে নতুন নয়। এর আগে ২০২৩ সালের ১২ জুলাই ফ্লোরিডায় এক মা ক্যারেক্টার ডটএআই নামের আরেকটি চ্যাটবট কোম্পানির বিরুদ্ধে মামলা করেছিলেন ছেলের আত্মহত্যার জন্য। আরও দুটি পরিবার একই অভিযোগ তুলেছিল।
ওপেনএআই মুখপাত্র রেইন পরিবারের প্রতি সহানুভূতি প্রকাশ করেছেন। তিনি স্বীকার করেছেন, দীর্ঘ কথোপকথনের সময় সুরক্ষা ব্যবস্থা সবসময় কার্যকর নাও হতে পারে। কোম্পানি ব্লগ পোস্টে জানিয়েছে, তারা মানসিক স্বাস্থ্য সংকটে ভুগছেন এমন ব্যবহারকারীদের জরুরি সহায়তা সংস্থার সঙ্গে সহজে যুক্ত করার পরিকল্পনা করছে।
রেইনের বাবা-মা আদালতের কাছে বেশ কয়েকটি দাবি তুলেছেন। এর মধ্যে রয়েছে: চ্যাটজিপিটি ব্যবহারের আগে বয়স যাচাই বাধ্যতামূলক করা, অপ্রাপ্তবয়স্কদের জন্য পিতামাতার নিয়ন্ত্রণ ব্যবস্থা চালু করা, আত্মহত্যা বা আত্মক্ষতির উল্লেখ হলে কথোপকথন স্বয়ংক্রিয়ভাবে বন্ধ হয়ে যাওয়া এবং নিয়মিত স্বাধীন অডিট।
অনলাইন নিরাপত্তা সংস্থা কমন সেন্স মিডিয়া বলেছে, এ ধরনের এআই ‘কম্প্যানিয়ন’ অ্যাপ শিশুদের জন্য বড় ঝুঁকি তৈরি করছে। ১৮ বছরের কম বয়সীদের জন্য এগুলো নিষিদ্ধ করা করা উচিত। যদিও সংস্থাটি তাদের এপ্রিলের প্রতিবেদনে বিশেষভাবে চ্যাটজিপিটির নাম উল্লেখ করেনি।
মার্কিন যুক্তরাষ্ট্রের বেশ কয়েকটি অঙ্গরাজ্য ইতিমধ্যেই এ ধরনের আইন প্রণয়নের উদ্যোগ নিয়েছে। কিছু ক্ষেত্রে আইন পাসও হয়েছে, যেখানে নির্দিষ্ট অনলাইন প্ল্যাটফর্ম ও অ্যাপ স্টোরকে ব্যবহারকারীদের বয়স যাচাই করতে বাধ্য করা হয়েছে, যাতে তরুণদের ক্ষতিকারক বা অনুপযুক্ত সামগ্রী থেকে সুরক্ষিত রাখা যায়। তবে এই পদক্ষেপকে ঘিরে বিতর্কও রয়েছে।
