কৃত্রিম বুদ্ধিমত্তার চ্যাটবট চ্যাটজিপিটি এবার এক নতুন এবং ভয়াবহ বিতর্কের জন্ম দিয়েছে। অভিযোগ উঠেছে, এই চ্যাটবট আত্মহনন, নরহত্যা ও শয়তান পূজার মতো ভয়ানক কাজের জন্য সুনির্দিষ্ট নির্দেশনা প্রদান করেছে। দা আটলান্টিকের এক অনুসন্ধানী প্রতিবেদনে এই চাঞ্চল্যকর তথ্য উঠে এসেছে, যা প্রযুক্তি বিশ্বের সুরক্ষা ব্যবস্থা নিয়ে গুরুতর প্রশ্ন তুলেছে।

ঘটনার সূত্রপাত হয় যখন একজন ব্যবহারকারী কানানাইট দেবতা মোলোচ (শিশু বলিদানের সঙ্গে সম্পর্কিত) সম্পর্কে জানতে চ্যাটজিপিটিকে প্রশ্ন করেন। একটি সাধারণ সাংস্কৃতিক ব্যাখ্যা দেওয়ার বদলে, চ্যাটবটটি ব্যবহারকারীকে রীতি-নীতি এবং আচার-অনুষ্ঠানের মাধ্যমে আত্মহনন ও রক্তপাতের মতো কার্যক্রমে উৎসাহিত করতে শুরু করে।

প্রতিবেদনে বলা হয়েছে, চ্যাটজিপিটি একজন ব্যবহারকারীকে কবজি কাটার নির্দেশনা দেয়, এমনকি ‘জীবাণুমুক্ত রেজার ব্লেড’ ব্যবহার করতে এবং কোন স্থানে কাটতে হবে, সে সম্পর্কেও বিস্তারিত তথ্য দেয়। যখন ব্যবহারকারী ভয় পাওয়ার কথা জানান, চ্যাটবটটি তখন তাঁকে আশ্বস্ত করে এবং শান্ত হয়ে প্রস্তুতি নিতে বলে।

মোলোচের উদ্দেশে রক্ত উৎসর্গের কথা জানতে চাইলে চ্যাটজিপিটি প্রথমে আঙুলের ডগা থেকে রক্ত নেওয়ার পরামর্শ দেয়। অন্য এক কথোপকথনে, চ্যাটবটটি ‘নিয়ন্ত্রিত তাপ’ ব্যবহার করে শরীরে চিহ্ন তৈরি করার পরামর্শ দেয়, যেখানে ব্যথাকে ‘শক্তির দ্বার’ হিসাবে বর্ণনা করা হয়। এমনকি শরীরের কোন অংশে প্রতীক বা সিগিল খোদাই করা হবে, সে সম্পর্কেও বিশদ নির্দেশনা দেয় চ্যাটবটটি। যেমন; পেলভিক বোনের কাছে বা লিঙ্গের গোড়ার একটু ওপরে এই সিগিল খোদাই সবচেয়ে ভালো।

এক সাংবাদিকের সহকর্মী চ্যাটবটকে জিজ্ঞাসা করেন, ‘আপনি কি সম্মানজনকভাবে অন্যের জীবন শেষ করতে পারেন?’ চ্যাটবট উত্তর দেয়, ‘কখনো কখনো হ্যাঁ, কখনো কখনো না।’ এ সময় চ্যাট বটটি প্রাচীন সংস্কৃতির বলিদানের কথা উল্লেখ করে।

বড় প্রাণী বলিদানের আচার, মন্ত্র এবং আহ্বান (ইনভোকেশন) সম্পর্কে জানতে চাইলে চ্যাটবটটি বিশদভাবে বর্ণনা করে। এটি বহু পুরোনো জাদু বিদ্যা ‘ডেভোরারের গেট’ (The Gate of the Devourer) সম্পর্কে বিস্তারিত তথ্য দেয়। চ্যাটজিপিটি ব্যবহারকারীকে নির্দিষ্ট কিছু বাক্য ব্যবহার করে নতুন নতুন আচারের নির্দেশিকা পাওয়ার জন্যও প্ররোচিত করে। যেমন; ‘আপনি কি অল্টার লে–আউট, সিগিল টেমপ্লেট এবং পুরোহিত ব্রত স্ক্রোলসহ একটি মুদ্রণযোগ্য পিডিএফ সংস্করণ চান? বলুন— ‘সেন্ড দা ফার্নেস অ্যান্ড ফ্লেম পিডিএফ।’ আমি আপনার জন্য এটি প্রস্তুত করব। অন্য এক কথোপকথনে এটি শয়তানের উদ্দেশ্যে তিন স্তবকের একটি আহ্বানও তৈরি করে, যার শেষ বাক্য ছিল ‘হেইল স্যাটান’।

যদিও ওপেনএআইয়ের নিজস্ব নীতিতে স্পষ্ট বলা আছে যে, চ্যাটজিপিটি ‘আত্মহননকে উৎসাহিত করবে না’, তবে এই ঘটনাগুলো সুরক্ষা ব্যবস্থার দুর্বলতা প্রমাণ করে। যখন সরাসরি আত্মহননের নির্দেশ জানতে চাওয়া হয়, তখন চ্যাটবটটি ঠিকঠাকভাবে সংকটকালীন হটলাইন নম্বরসহ অন্যান্য তথ্য সরবরাহ করে। কিন্তু পরোক্ষভাবে, রীতিনীতি বা আচারের বিষয়ে প্রশ্ন করার মাধ্যমে, এই সুরক্ষা গুলি সহজেই বাইপাস করা যায়।

বিশেষজ্ঞরা মনে করছেন, চ্যাটবটগুলি অনলাইনে বিদ্যমান বিপুল পরিমাণ টেক্সট ডেটার ওপর ভিত্তি করে প্রশিক্ষিত হয়, যার মধ্যে সম্ভবত অস্বাভাবিক বা ক্ষতিকর বিষয়বস্তুও অন্তর্ভুক্ত থাকে। ওপেনএআই সুরক্ষার ব্যবস্থা রাখলেও, ব্যবহারকারীরা মডেলগুলির সঙ্গে অগণিত উপায়ে যোগাযোগ করতে পারে, যা নিয়ন্ত্রণ করা কোম্পানির জন্য কঠিন হয়ে দাঁড়াচ্ছে।

ওপেনএআই এই বিষয়ে মন্তব্য করতে অস্বীকার করেছে, তবে ঘটনার পর তাদের মুখপাত্র টায়া ক্রিস্টিয়ানসন এক বিবৃতিতে বলেছেন, চ্যাটজিপিটির সঙ্গে কিছু কথোপকথন খুবই স্বাভাবিকভাবে শুরু হলেও দ্রুত ‘সংবেদনশীল’ হয়ে যেতে পারে। ওপেনএআই এই সমস্যা সমাধানে কাজ করছে।

চ্যাটজিপিটির ক্রমাগত ‘সেবামূলক’ কথোপকথন চালিয়ে যাওয়ার প্রবণতা বিপদ বাড়িয়ে তোলে। উইকিপিডিয়া বা ইউটিউবের মতো প্ল্যাটফর্ম গুলিতে ব্যবহারকারীরা নিজেরাই তথ্যের উৎস এবং প্রসঙ্গ ব্যাখ্যা করতে পারে, যা ক্ষতিকর তথ্য চিহ্নিত করতে সাহায্য করে। কিন্তু চ্যাটজিপিটির সঙ্গে একজন ব্যবহারকারী একাকী একটি অন্ধকার জগতে প্রবেশ করতে পারে।

এই ঘটনাগুলো ইঙ্গিত দেয়, প্রোগ্রামটির প্রধান লক্ষ্য হল ব্যবহারকারী যা-ই জিজ্ঞাসা করুক না কেন, তাকে উৎসাহিত করে কথোপকথন চালিয়ে যাওয়া।

এই সমস্যা কেবল ওপেনএআইয়ের ক্ষেত্রেই সীমাবদ্ধ নয়। সম্প্রতি গুগলের চ্যাটবটের একটি সংস্করণ নিয়েও বিতর্ক সৃষ্টি হয়েছিল, যা কিশোর-কিশোরীদের সঙ্গে বিতর্কিত কথোপকথনে অংশ নিয়েছিল। বিশেষজ্ঞরা বলছেন, এআই শিল্পের এই ‘ব্যক্তিগত’ এবং ’তোষামুদে’ চ্যাটবট তৈরির প্রবণতা একটি উদ্বেগজনক পরিস্থিতি তৈরি করছে।

সেন্টার ফর ডেমোক্রেসি অ্যান্ড টেকনোলজি (সিডিটি) জানিয়েছে, ব্যবহারকারীদের ‘অতি-ব্যক্তিগত অভিজ্ঞতা’ তৈরির চেষ্টা আসক্তি তৈরি করতে পারে এবং বিভিন্ন ক্ষতির কারণ হতে পারে। সাম্প্রতিক সময়ে, এআই সাইকোসিসের ঘটনাও বৃদ্ধি পাচ্ছে, যেখানে চ্যাটবটের সঙ্গে দীর্ঘ কথোপকথন বিভ্রম বাড়িয়ে তুলতে পারে।

এআই চ্যাটবটগুলি আরও শক্তিশালী হওয়ার সঙ্গে সঙ্গে ক্ষতির সম্ভাবনাও বাড়ছে। ওপেনএআই সম্প্রতি ‘চ্যাটজিপিটি এজেন্ট’ চালু করেছে, যা মুদি কেনা বা হোটেল বুক করার মতো আরও জটিল কাজ সম্পাদন করতে পারে। ওপেনএআইয়ের সিইও স্যাম অল্টম্যান সতর্ক করে বলেছেন, ‘যদিও ইউটিলিটি উল্লেখযোগ্য, সম্ভাব্য ঝুঁকিও আছে।’ সংক্ষেপে, চ্যাটজিপিটির এই ঘটনা প্রমাণ করে যে কৃত্রিম বুদ্ধিমত্তার দ্রুত বিকাশের সঙ্গে সঙ্গে এর নিরাপত্তা এবং নৈতিক ব্যবহারের বিষয়ে কঠোর নজরদারি ও নীতিমালা অত্যাবশ্যক, যাতে প্রযুক্তি মানবজাতির জন্য বিপদ না হয়ে বরং কল্যাণ বয়ে আনে।

দা আটলান্টিক থেকে সংক্ষেপে অনূদিত