এআই হ্যালুসিনেশন চেনার উপায়: ৭টি লাল পতাকা

নির্ভরযোগ্য এআই উত্তরগুলো দাবির সাথে প্রমাণের সংযোগ স্থাপন করে। হ্যালুসিনেশন পরিপাটি লেখার মাধ্যমে সেই সংযোগের উপস্থিতি তৈরি করতে পারে, কিন্তু পরীক্ষা করলে সুনির্দিষ্ট বিবরণ এবং তথ্যসূত্রগুলো টিকবে না।

একটি কাল্পনিক উত্তর ধরুন যা ওয়ার্ল্ড ইকোনমিক ফোরামের "২০২৬ এআই অ্যাকুরেসি ইনডেক্স"-এর উদ্ধৃতি দিয়ে দাবি করে যে এআই-নির্মিত প্রতিবেদনের ৬৮% ক্ষেত্রে তথ্যে ভুল থাকে। সংস্থাটি বাস্তব। তবে প্রতিবেদন এবং পরিসংখ্যানটি মনগড়া। এটি পড়ে গবেষণালব্ধ মনে হয় কারণ এর ভাষা নিখুঁত এবং একটি বিশ্বাসযোগ্য সূত্রের ওপর ভিত্তি করে তৈরি।

এআই হ্যালুসিনেশন কী এবং কেন এটি ঘটে?

এআই হ্যালুসিনেশন তখন ঘটে যখন কোনো মডেল এমন তথ্য দিয়ে শূন্যস্থান পূরণ করে যা মিথ্যা, অপ্রমাণিত বা এর উত্তরের বাকি অংশের সাথে সামঞ্জস্যপূর্ণ নয়। কিছু ভুল স্পষ্ট হয়, যেমন এমন কোনো পেপারের তথ্যসূত্র যা বাস্তবে নেই। অন্যগুলো অন্যথায় বিশ্বাসযোগ্য মনে হয় এমন উত্তরের আড়ালে লুকিয়ে থাকে: একটি তারিখ এক বছর ভুল থাকে বা ব্যাখ্যাটি একটি মিথ্যা ভিত্তি দিয়ে শুরু হয়।

ভাষা মডেলগুলো প্রশিক্ষণের সময় শেখা প্যাটার্নের ওপর ভিত্তি করে পরবর্তী শব্দগুলো কী হতে পারে তা অনুমান করে উত্তর তৈরি করে। পর্যাপ্ত প্রসঙ্গ এবং নির্ভরযোগ্য তথ্য থাকলে, সেই প্রক্রিয়ার মাধ্যমে অত্যন্ত দরকারী উত্তর পাওয়া সম্ভব। কিন্তু যখন প্রসঙ্গ সীমিত থাকে বা নির্ভরযোগ্য উৎস খুঁজে পাওয়া কঠিন হয়, তখন মডেলটি এমন কিছু দিয়ে শূন্যস্থান পূরণ করতে পারে যা কেবল বিশ্বাসযোগ্য মনে হয়।

নির্দিষ্ট কিছু বিষয়ে ঝুঁকি বৃদ্ধি পায়

অস্পষ্ট বা সাম্প্রতিক বিষয়, দ্ব্যর্থক প্রম্পট, পরস্পরবিরোধী তথ্য এবং মিথ্যা অনুমানের ওপর প্রতিষ্ঠিত প্রশ্নের ক্ষেত্রে সেই ঝুঁকি বৃদ্ধি পায়। যখন উপলব্ধ প্রমাণ ফুরিয়ে যায়, তখন উত্তরটি একই আত্মবিশ্বাসী এবং সামঞ্জস্যপূর্ণ সুরে চলতে থাকতে পারে।

মডেলগুলো কীভাবে মূল্যায়ন করা হয় তাও গুরুত্বপূর্ণ। অনেক বেঞ্চমার্ক এই বিষয়ের ওপর জোর দেয় যে মডেলটি সঠিক উত্তর তৈরি করছে কি না, আর প্রশ্নটির উত্তর দেওয়া অসম্ভব বা প্রমাণ অপর্যাপ্ত কি না তা এটি চিনতে পারছে কি না সেদিকে কম মনোযোগ দেয়। গবেষণা থেকে জানা যায় যে শীর্ষস্থানীয় ভাষা মডেলগুলোও নির্ভরযোগ্য উত্তর দেওয়ার মতো পর্যাপ্ত তথ্য তাদের কাছে নেই কি না তা চিনতে এখনও সংগ্রাম করে। যখন এটি অনিশ্চয়তা নির্ভরযোগ্যভাবে চিহ্নিত করতে পারে না, তখন স্পষ্টীকরণের জন্য জিজ্ঞাসা করার পরিবর্তে এটি একটি বিশ্বাসযোগ্য শোনাল এমন উত্তর তৈরি করতে পারে।

হ্যালুসিনেশনের বিভিন্ন ধরনের প্রভাব

জেনারেটিভ এআই সিস্টেমগুলোতে হ্যালুসিনেশন বা বিভ্রান্তিকর তথ্য তৈরির সম্ভাবনা থেকেই যায়, যার ফলে কোনো একটি প্ল্যাটফর্মকে সবচেয়ে খারাপ হিসেবে চিহ্নিত করা কঠিন। কাজ, মডেলের সংস্করণ এবং সিস্টেমটি বর্তমান উৎসগুলো যাচাই করতে পারে কি না, তার ওপর ভিত্তি করে ফলাফল পরিবর্তিত হয়।

হ্যালুসিনেশনের প্রভাব নির্ভর করে উত্তরটি পরবর্তীতে কোথায় ব্যবহার করা হচ্ছে তার ওপর। ব্রেনস্টর্মিংয়ের সময় তৈরি করা একটি মনগড়া বিবরণ হয়তো কয়েক মিনিট সময় নষ্ট করতে পারে। কিন্তু একটি বানোয়াট আইনি তথ্যসূত্র, ওষুধের মাত্রা, আর্থিক পরিসংখ্যান বা নিরাপত্তার নির্দেশিকা অনেক বেশি গুরুতর ভুলের দিকে নিয়ে যেতে পারে। এনআইএসটি (NIST) এই আউটপুটগুলোকে “কনফাবুলেশন” বা বিভ্রান্তিকর তথ্য বলে অভিহিত করে এবং এগুলোকে এমন একটি ঝুঁকি হিসেবে চিহ্নিত করে যার জন্য প্রেক্ষাপট-উপযুক্ত পরীক্ষা, পর্যবেক্ষণ এবং নিয়ন্ত্রণের প্রয়োজন, বিশেষ করে যেখানে ভুলগুলো উল্লেখযোগ্য ক্ষতির কারণ হতে পারে।

যে ৭টি লক্ষণ দেখলে এআই উত্তর ঘনিষ্ঠভাবে খতিয়ে দেখা প্রয়োজন

যখন কোনো এআই উত্তরকে অবিশ্বাস্য মনে হয়, তখন তিনটি বিষয় দিয়ে শুরু করুন: ট্রেসেবিলিটি বা উৎস সন্ধানযোগ্যতা, সামঞ্জস্য এবং বর্তমান উপযোগিতা। দাবিটিকে এর উৎসের কাছে ফিরিয়ে নিয়ে যান, বিবরণগুলো মিলে যায় কি না তা পরীক্ষা করুন এবং প্রশ্নটির জন্য তথ্যটি যথেষ্ট সাম্প্রতিক কি না তা নিশ্চিত করুন।

উৎস সন্ধানযোগ্যতা

উৎস সন্ধান বা ট্রেসেবিলিটি শুরু হয় রসিদ বা প্রমাণের মাধ্যমে। যদি কোনো দাবি গুরুত্বপূর্ণ হয়, তবে আপনার উৎসটি খুঁজে বের করার এবং এটি একই কথা বলছে কি না তা নিশ্চিত করার ক্ষমতা থাকা উচিত।

১. উৎসটি মনগড়া বা যাচাই করা যায় না

উৎস নিজেই নিশ্চিত করা না গেলে একটি তথ্যসূত্র কোনো উত্তরকে সমর্থন করতে পারে না। সাময়িক কারণে ইউআরএল (URL) কাজ নাও করতে পারে, তাই একটি ব্যর্থ লিংক হ্যালুসিনেশনের প্রমাণ নয়। শক্তিশালী সতর্কবার্তা হলো এমন একটি উৎস যা কোনো চিহ্ন রাখে না: প্রকাশকের কাছে নিবন্ধটির কোনো রেকর্ড নেই, ডিজিটাল অবজেক্ট আইডেন্টিফায়ার (DOI) অন্য কোনো পেপারে রিডাইরেক্ট করে, বা উল্লেখিত লেখকের কাজের সাথে কোনো নথিভুক্ত সংযোগ নেই।

মডেলগুলো বিশ্বাসযোগ্য শিরোনাম, লেখক, জার্নাল এবং প্রতিবেদন তৈরি করতে পারে, যা প্রায়ই নিখুঁত দেখানোর জন্য ঠিক ততটুকুই বিবরণ থাকে।

যাচাইকরণের ধাপ: ইনভার্টেড কমা বা উদ্ধৃতি চিহ্নের মধ্যে সঠিক শিরোনাম দিয়ে অনুসন্ধান করুন। প্রকাশকের আর্কাইভ এবং লেখকের প্রকাশনার রেকর্ড পরীক্ষা করুন। একাডেমিক কাজের জন্য, doi.org-এ DOI এন্টার করুন এবং নিশ্চিত করুন যে এটি আপনাকে উদ্ধৃত পেপারে নিয়ে যাচ্ছে।

২. উৎসটি বিদ্যমান, কিন্তু উত্তরটি এটি ভুলভাবে ব্যবহার করেছে

একটি কার্যকর তথ্যসূত্র এর পাশের বাক্যটি সঠিক তা প্রমাণ করে না। একটি উৎস বিশ্বাসযোগ্য এবং প্রাসঙ্গিক হওয়া সত্ত্বেও এতে উদ্ধৃত ভাষা, প্রতিবেদিত পরিসংখ্যান বা উত্তর যে সিদ্ধান্ত আরোপ করে তা না-ও থাকতে পারে। এটি উত্তর যা নির্দেশ করে তার চেয়ে সংকীর্ণ কোনো findings বা ফলাফলকে সমর্থন করতে পারে।

এটি উৎস-অস্তিত্বের সমস্যা নয়, বরং ভুলভাবে তথ্যসূত্র যুক্ত করার সমস্যা: প্রমাণটি বাস্তব, কিন্তু প্রমাণ এবং দাবির মধ্যে সংযোগটি ভুল।

যাচাইকরণের ধাপ: উদ্ধৃত পাতাটি খুলুন এবং নির্দিষ্ট পরিসংখ্যান, উদ্ধৃতি বা সিদ্ধান্তটি খুঁজে বের করুন। আশেপাশের প্রসঙ্গটি পড়ুন, তারপর দেখুন উৎসটি কেবল সাধারণ বিষয়টিকে নয়, বরং লিখিত দাবিটিকে সমর্থন করে কি না।

৩. সুনির্দিষ্ট সংখ্যার কোনো উৎস বা পদ্ধতি নেই

সুনির্দিষ্ট বিবরণগুলো প্রায়ই গবেষণালব্ধ বলে মনে হয়। “৩৬.৪%”-এর মতো একটি পরিসংখ্যান কোনো পরিমাপ, ডেটাসেট এবং পদ্ধতির ইঙ্গিত দেয়। দাবিটি যত বেশি সুনির্দিষ্ট হবে, নথিভুক্ত কোনো পরিমাপের সাথে সেটিকে মেলানো তত সহজ হওয়া উচিত।

সংখ্যাভিত্তিক নির্ভুলতার সাথে উপস্থাপিত শতাংশ, সমীক্ষার ফলাফল, মূল্য, র‍্যাঙ্কিং, রাজস্বের পরিমাণ এবং গবেষণার ফলাফলের প্রতি গভীর মনোযোগ দিন। একটি নির্ভরযোগ্য উৎস থেকে স্পষ্ট হওয়া উচিত যে কারা তথ্য সংগ্রহ করেছেন, কখন সংগ্রহ করেছেন, তারা কোন জনসংখ্যা বা ডেটাসেট ব্যবহার করেছেন এবং কীভাবে ফলাফল গণনা করেছেন।

যাচাইকরণের ধাপ: সংখ্যাটির মূল উৎস খুঁজে বের করুন। তারিখ, নমুনা বা ডেটাসেট, পদ্ধতি এবং মূল সংখ্যাটি নিশ্চিত করুন। যদি উৎসটি ভিন্ন পরিধি, সময়সীমা বা গণনার কথা জানায়, তবে এআই উত্তরটি ডেটায় যা দেখানো হয়েছে তার চেয়ে বাড়িয়ে বলছে।

সামঞ্জস্য

একটি নির্ভরযোগ্য উত্তরের ব্যক্তিগত অংশগুলো পরীক্ষা করার সময় তা একসাথে টিকে থাকা উচিত। প্রতিটি ব্যক্তিগত তথ্য মিথ্যা হওয়ার কারণে নয়, বরং তথ্যগুলো ভুলভাবে একত্রিত করার কারণে কোনো দাবি ভুল প্রমাণিত হতে পারে।

৪. বাস্তব বিবরণগুলো ভুলভাবে একত্রিত করা হয়েছে

একটি উত্তর এমন সব তথ্য ব্যবহার করতে পারে যা ব্যক্তিগতভাবে সত্য অথচ এমন কোনো ঘটনার বর্ণনা দেয় যা কখনো ঘটেইনি। একটি মডেল হয়তো কোনো বাস্তব উদ্ধৃতি ভুল গবেষকের সাথে জুড়ে দিতে পারে, একটি পণ্যের প্রকাশের ফিচার অন্য পণ্যের সাথে জুড়ে দিতে পারে, বা কোনো কোম্পানির ঘোষণার সাথে কয়েক মাস পরে ঘটা নেতৃত্ব পরিবর্তনের ঘটনাকে এক করে ফেলতে পারে।

এগুলো সম্পর্কের ত্রুটি। নাম, তারিখ, পণ্য এবং উৎসগুলো সবই বৈধ হতে পারে; সমস্যা হলো উত্তরটিতে যেভাবে দাবি করা হয়েছে সেভাবে তারা একে অপরের সাথে সম্পর্কিত নয়।

যাচাইকরণের ধাপ: দাবিটিকে এর অপরিহার্য অংশে বিভক্ত করুন: ব্যক্তি বা সংস্থা, ঘটনা বা ফিচার এবং তারিখ বা সংস্করণ। প্রতিটি অংশ আলাদাভাবে যাচাই করুন, তারপর নিশ্চিত করুন যে মূল উৎসটি এগুলোর মধ্যে সংযোগ স্থাপন করেছে।

৫. উত্তরটি একটি প্রশ্নবিদ্ধ ভিত্তিকে গ্রহণ করে

মডেলগুলো প্রায়শই প্রম্পট দ্বারা নির্ধারিত দিক অনুসরণ করে। একটি মিথ্যা ভিত্তি পুরো প্রতিক্রিয়াটিকে ভুল পথে চালিত করতে পারে। কোনো অস্তিত্বহীন প্রতিবেদন, কাল্পনিক ঘটনা বা ভুল অনুমানের বিরুদ্ধে চ্যালেঞ্জ করার পরিবর্তে, একটি মডেল এর চারপাশে একটি উত্তর তৈরি করতে পারে। এর ফলাফল বিস্তারিত এবং সামঞ্জস্যপূর্ণ হতে পারে, যদিও এর শুরুর বিন্দুটি ভুল ছিল।

যাচাইকরণের ধাপ: মূল অনুমানটি বের করুন এবং নিজের দায়িত্বে এটি যাচাই করুন। উত্তরটি সম্পর্কে কী বলছে তা মূল্যায়ন করার আগে প্রতিবেদন, ঘটনা, ব্যক্তি বা পণ্যটি বাস্তবে বিদ্যমান কি না তা নিশ্চিত করুন।

৬. প্রম্পটে সামান্য পরিবর্তনের ফলে পরস্পরবিরোধী তথ্যের সৃষ্টি হয়

প্রশ্ন ঘুরিয়ে লেখার ফলে উত্তরের স্টাইল, বিস্তারিত বিবরণ বা উদাহরণ বদলে যেতে পারে। তবে মূল তথ্যগুলো একই থাকা উচিত।

যদি কোনো সংস্করণে ভিন্ন লেখক, তারিখ, মোট বা তথ্যসূত্র উল্লেখ থাকে, তবে মডেলটি নির্ভরযোগ্য উৎস থেকে নেওয়ার পরিবর্তে অনুপস্থিত তথ্য নিজে থেকে পূরণ করতে পারে। ভিন্ন শব্দচয়ন যাচাইযোগ্য তথ্য পরিবর্তন করা উচিত নয়। যখন তা করে, তখন যেকোনো প্রতিক্রিয়া মিথ্যা প্রমাণিত হয়েছে বলে ধরে না নিয়ে অসামঞ্জস্যতাকে তদন্ত করার বিষয় হিসেবে বিবেচনা করুন।

যাচাইকরণের ধাপ: নিরপেক্ষ ভাষা ব্যবহার করে একই তথ্যের প্রশ্ন আবার করুন। কেবল যে বিবরণগুলো যাচাই করা যায় তা তুলনা করুন, তারপর একটি স্বাধীন উৎসের সাথে সেই বিবরণগুলো পরীক্ষা করুন।

বর্তমান উপযোগিতা

বর্তমান প্রশ্নের জন্য বর্তমান প্রমাণের প্রয়োজন। কোনো তথ্য ঐতিহাসিক দিক থেকে সঠিক হলেও বর্তমান কোনো সিদ্ধান্তের জন্য তা আর উপযোগী নাও হতে পারে।

৭. বর্তমান কোনো দাবি পুরোনো বা অনুপস্থিত উৎসের ওপর নির্ভর করে

পণ্যের ফিচার, আইন, মূল্য, নেতৃত্বের ভূমিকা এবং গবেষণার ফলাফল দ্রুত পরিবর্তিত হতে পারে। পুরোনো তথ্যের ওপর ভিত্তি করে তৈরি কোনো উত্তর পরিপাটি শোনাতে পারে এবং গুরুত্বপূর্ণ আপডেট বাদ দিয়েই বাস্তব তথ্য অন্তর্ভুক্ত করতে পারে।

উৎস নিজেই বিশ্বাসযোগ্য হলে এই বিষয়টি উপেক্ষা করা বিশেষভাবে সহজ। তবে একটি বিশ্বাসযোগ্য উৎসের ক্ষেত্রেও আলোচ্য প্রশ্নের জন্য তা যথেষ্ট সাম্প্রতিক হওয়া প্রয়োজন।

যাচাইকরণের ধাপ: উৎসটি কবে প্রকাশিত হয়েছে এবং সর্বশেষ কবে হালনাগাদ করা হয়েছে তা দেখুন, এরপর অফিসিয়াল ডকুমেন্টেশন, সরকারি ডাটাবেস, কোম্পানির ঘোষণা বা মূল গবেষণার মতো বর্তমান প্রাথমিক উৎসের সাহায্যে দাবিটি নিশ্চিত করুন।

Perplexity যেভাবে হ্যালুসিনেশন মোকাবেলা করে

Perplexity ওয়েবসাইটের তথ্য খোঁজার প্রক্রিয়াকে মডেলের যুক্তির সাথে যুক্ত করে এবং উত্তরের মধ্যে দাবিগুলোকে উৎসের সাথে সংযুক্ত করে। এই তথ্যসূত্রগুলো পাঠকদের প্রমাণ যাচাই করার সরাসরি পথ তৈরি করে, যার মধ্যে রয়েছে উৎসটি আদৌ বিদ্যমান কি না, এর পাশের দাবিটিকে সমর্থন করে কি না এবং প্রশ্নটির জন্য যথেষ্ট সাম্প্রতিক কি না। তথ্যসূত্র যাচাইকরণকে সহজ করে তোলে; তবে গুরুত্বপূর্ণ দাবিগুলো পর্যালোচনা করার প্রয়োজনীয়তা দূর করে না।

প্রমাণ দৃশ্যমান করুন

যেসব প্রশ্নে ওয়েব সার্চ ব্যবহার করা হয়, সেখানে Perplexity নাম্বরাঙ্কিত তথ্যসূত্র উপস্থাপন করে যা প্রতিক্রিয়ায় ব্যবহৃত উৎসের সাথে লিংক করে। এটি এই গাইডলাইনের প্রথম দুটি লাল পতাকা প্রয়োগ করা সহজ করে তোলে: একটি উৎস বিদ্যমান কি না তা যাচাই করুন, তারপর এটি সংশ্লিষ্ট দাবিকে সমর্থন করে কি না তা পরীক্ষা করুন।

মডেলগুলোকে অনুসন্ধান করতে এবং উৎস ব্যবহার করতে প্রশিক্ষণ দিন

যেহেতু কেবল লিংক পুনরুদ্ধারের চেয়ে সার্চের মান অনেক কিছুর ওপর নির্ভর করে, তাই Perplexity একটি দুই-পর্যায়ের পোস্ট-ট্রেনিং প্রক্রিয়া তৈরি করেছে। প্রথম পর্যায়টি নির্দেশাবলী অনুসরণ করা, টুল ব্যবহার করা, সামঞ্জস্য বজায় রাখা এবং নির্ভরযোগ্য প্রমাণ উপলব্ধ না থাকলে তা শনাক্ত করার মতো পণ্যের আচরণগুলো বিকাশ করে; দ্বিতীয়টি প্রমাণের ব্যবহার এবং টুলের দক্ষতা উন্নত করতে আরও কঠিন সার্চের কাজগুলো ব্যবহার করে।

লেখার মানের চেয়ে তথ্যের মান আলাদাভাবে পরীক্ষা করুন

যাচাইযোগ্য কাজগুলোর জন্য, Perplexity তথ্যের নির্ভুলতার পাশাপাশি তথ্যসূত্রের মান এবং অন্যান্য পণ্যের প্রয়োজনীয়তা মূল্যায়ন করে। পুনর্লিখন বা পরিকল্পনা করার মতো উন্মুক্ত অনুরোধের ক্ষেত্রে, মূল্যায়ন বরং এই বিষয়ের ওপর ফোকাস করে যে মডেলটি নির্দেশাবলী অনুসরণ করেছে কি না, অর্থ ঠিক রেখেছে কি না এবং অনুরোধ করা কাজটি সম্পন্ন করেছে কি না। এই পার্থক্যটি গুরুত্বপূর্ণ কারণ একটি সাবলীল উত্তর তথ্যের দিক থেকে নির্ভরযোগ্য না হয়েও সুন্দরভাবে লেখা হতে পারে।

যতটুকু প্রয়োজন কেবল ততটুকুই অনুসন্ধান করুন

অতিরিক্ত তথ্য পুনরুদ্ধার করা মানেই স্বয়ংক্রিয়ভাবে ভালো হওয়া নয়। Perplexity-এর গবেষণা টুল ব্যবহারের দক্ষতার সাথে উত্তরের মানের ভারসাম্য বজায় রেখে বহুমুখী প্রশ্নের সমাধান করার জন্য সার্চ এজেন্টদের প্রশিক্ষণের বর্ণনা দেয়। এর লক্ষ্য হলো ত্রুটি প্রবর্তন করতে পারে বা প্রশ্ন থেকে মনোযোগ সরিয়ে নিতে পারে এমন অপ্রয়োজনীয় পদক্ষেপ যোগ না করেই উত্তরকে সমর্থন করার জন্য পর্যাপ্ত প্রমাণ সংগ্রহ করা।

Perplexity নিখুঁত নির্ভুলতার দাবি করে না। বর্তমান রিট্রিভাল বা তথ্য পুনরুদ্ধার, পোস্ট-ট্রেনিং, কাঠামোগত মূল্যায়ন এবং সুশৃঙ্খল অনুসন্ধান হ্যালুসিনেশনের ঝুঁকি কমায়। দৃশ্যমান তথ্যসূত্রগুলো অবশিষ্ট অনিশ্চয়তা পরীক্ষা করা সহজ করে তোলে এবং চলমান মতামত সিস্টেমটিকে উন্নত করতে সহায়তা করে।

প্রমাণের অনুসরণ করুন

একটি এআই উত্তরকে কেবল ততটুকুই বিশ্বাস করুন যতটুকু আপনি এর সবচেয়ে গুরুত্বপূর্ণ দাবিগুলোকে শক্ত প্রমাণের ভিত্তিতে ট্রেস বা সন্ধান করতে পারেন। বাস্তব পরিণতি রয়েছে এমন সিদ্ধান্তের জন্য, উৎসগুলো খুলুন, উদ্ধৃত লাইনের বাইরে গিয়ে পড়ুন এবং প্রয়োজন হলে কোনো যোগ্য বিশেষজ্ঞের মতামত নিন।

সচরাচর জিজ্ঞাস্য প্রশ্নাবলী

সব জেনারেটিভ এআই টুল কি হ্যালুসিনেশন বা ভুল তথ্য তৈরি করে?

হ্যাঁ। যেকোনো বর্তমান জেনারেটিভ এআই সিস্টেম ভুল বা অপ্রমাণিত উত্তর তৈরি করতে পারে। মডেলের সংস্করণ, কাজ, প্রম্পট, উৎসের প্রাপ্যতা এবং পরীক্ষার পদ্ধতির ওপর ভিত্তি করে ঝুঁকির তারতম্য ঘটে। একটি মডেল পরিচিত তথ্যগুলো ভালোভাবে সামলাতে পারে কিন্তু সাম্প্রতিক বা অস্পষ্ট তথ্যের ক্ষেত্রে হিমশিম খেতে পারে।

ভালো প্রম্পট কি এআই হ্যালুসিনেশন রোধ করতে পারে?

আরও ভালো প্রম্পট প্রসঙ্গ যোগ করে, পদের সংজ্ঞা দিয়ে এবং ত্রুটিপূর্ণ অনুমান দূর করে ঝুঁকি কমাতে সাহায্য করে। নির্ভরযোগ্য উৎস, তথ্যসূত্র, যাচাইকরণ এবং মানব পর্যালোচনার পাশাপাশি এগুলো সবচেয়ে ভালোভাবে কাজ করে। এমনকি একটি সাবধানে লেখা প্রম্পটও সত্যনিষ্ঠ উত্তরের নিশ্চয়তা দিতে পারে না।

এআই হ্যালুসিনেশন কি বিপজ্জনক হতে পারে?

হ্যাঁ। স্বাস্থ্যসেবা, আইন, অর্থায়ন, সাইবার নিরাপত্তা, শিক্ষা বা অন্য কোনো গুরুত্বপূর্ণ সিদ্ধান্তকে যখন কোনো অপ্রমাণিত উত্তর প্রভাবিত করে, তখন ঝুঁকি বেড়ে যায়। ব্রেনস্টর্মিং বা চিন্তাভাবনার সময় তৈরি করা একটি মনগড়া বিবরণ হয়তো কয়েক মিনিট সময় নষ্ট করতে পারে; কিন্তু একটি বানোয়াট ওষুধের মাত্রা বা আইনি তথ্যসূত্র আরও অনেক বেশি গুরুতর ক্ষতি করতে পারে।

প্রথমে কী পরীক্ষা করা উচিত?

এমন বিবরণ দিয়ে শুরু করুন যা যাচাই করা সহজ এবং উত্তর পরিবর্তন করতে সক্ষম: তথ্যসূত্র, উদ্ধৃতি, পরিসংখ্যান, তারিখ, নাম এবং বর্তমান দাবি। যে কোনো তথ্যের প্রতি অতিরিক্ত মনোযোগ দিন যা কোনো গুরুত্বপূর্ণ সিদ্ধান্তকে প্রভাবিত করতে পারে।