কোনো কিশোর ব্যবহারকারী মেটার এআই চ্যাটবটের সঙ্গে কথোপকথনের সময় আত্মহত্যা বা আত্মক্ষতির ইঙ্গিত দিলে বিষয়টি আর শুধু ব্যক্তিগত চ্যাটের মধ্যে সীমাবদ্ধ থাকবে না। নতুন নিরাপত্তা ব্যবস্থার অংশ হিসেবে এমন পরিস্থিতিতে অভিভাবকদের সতর্ক করার উদ্যোগ নিয়েছে মেটা। ঝুঁকি গুরুতর বলে মনে হলে প্রয়োজন অনুযায়ী জরুরি সেবার সঙ্গেও যোগাযোগ করা হতে পারে।

মেটা জানিয়েছে, তাদের এআই সিস্টেম কোনো কিশোরের কথোপকথনে আত্মহানি-সংক্রান্ত সংকেত শনাক্ত করলে প্রথমে তা মানব পর্যালোচনার মধ্য দিয়ে যাবে। এরপর পরিস্থিতির গুরুত্ব বিবেচনা করে অভিভাবকদের কাছে সতর্কবার্তা পাঠানো হবে।

কোনো বার্তার অর্থ পুরোপুরি নিশ্চিত না হলেও সম্ভাব্য ঝুঁকি এড়াতে সতর্কতামূলক ব্যবস্থা নেওয়া হতে পারে। এর ফলে কিছু ক্ষেত্রে অপ্রয়োজনীয় সতর্কবার্তা যাওয়ার সম্ভাবনা থাকলেও কিশোরদের নিরাপত্তাকে অগ্রাধিকার দিচ্ছে প্রতিষ্ঠানটি।

বর্তমানে যুক্তরাষ্ট্র, যুক্তরাজ্য, অস্ট্রেলিয়া ও কানাডায় ইনস্টাগ্রাম প্যারেন্টাল সুপারভিশন ব্যবহারকারী পরিবারগুলোর জন্য এই সুবিধা চালু করা হয়েছে। মেটার পরিকল্পনা অনুযায়ী, চলতি বছরের শেষের দিকে এটি অন্যান্য দেশেও চালু করা হবে।

নতুন এই উদ্যোগ মেটার বিদ্যমান নিরাপত্তা ব্যবস্থার সম্প্রসারিত রূপ। এর আগে ইনস্টাগ্রামে কিশোর ব্যবহারকারীরা বারবার আত্মহত্যা বা আত্মক্ষতি-সংক্রান্ত বিষয় খুঁজলে অভিভাবকদের সতর্ক করা হতো। এখন অভিভাবকেরা গত সাত দিনে তাদের সন্তানের মেটা এআইয়ের সঙ্গে হওয়া আলোচনার বিষয় সম্পর্কেও ধারণা পেতে পারবেন।

এ ছাড়া কিশোরদের জন্য চালু থাকা সীমিত কনটেন্ট ব্যবস্থার আওতা বাড়িয়ে মেটা এআইয়ের ক্ষেত্রেও কার্যকর করা হচ্ছে। এর ফলে চ্যাটবট সংবেদনশীল বা অনুপযুক্ত কিছু অনুরোধের ক্ষেত্রে আরও নিয়ন্ত্রিতভাবে প্রতিক্রিয়া জানাবে।

মেটা আরও জানিয়েছে, কিশোর বা প্রাপ্তবয়স্ক—যে কোনো ব্যবহারকারীর কথোপকথনে যদি তাৎক্ষণিক আত্মহানির ঝুঁকি শনাক্ত হয়, তাহলে প্রয়োজন অনুযায়ী জরুরি সহায়তা ব্যবস্থার সঙ্গে যোগাযোগ করা হতে পারে। এর আগে ফেসবুক ও ইনস্টাগ্রামে ঝুঁকিপূর্ণ পোস্ট শনাক্তের ক্ষেত্রে যে ধরনের ব্যবস্থা নেওয়া হতো, এখন একই ধরনের সুরক্ষা ব্যবস্থা মেটা এআই চ্যাটেও যুক্ত করা হচ্ছে।

সূত্র : টেকক্রাঞ্চ