প্রশ্ন উঠেছে চ্যাটজিপিটি চিকিৎসা ক্ষেত্রের জন্য নতুন বিপদ ডেকে আনতে পারে কিনা। যদিও এর ইতিবাচক সক্ষমতা রয়েছে, যা অনেক ক্ষেত্রে সুবিধাজনকও। তবে এ ধরনের প্রযুক্তি অনিবার্যভাবেই অনুপযুক্ত পদ্ধতিতেও ব্যবহার করা যেতে পারে বলে মনে করছেন গবেষকরা। তাই এটি ব্যবহারের মাধ্যমে প্রতারণামূলক বা ভুয়া গবেষণা প্রকাশ করা হতে পারে বলে আশঙ্কা প্রকাশ করেছেন তারা।
অস্ট্রেলিয়াভিত্তিক কসমস ম্যাগাজিনের প্রতিবেদন অনুসারে, চ্যাটজিপিটির মাধ্যমে তৈরি মেডিকেলবিষয়ক ভুল তথ্য অনেকেেই বিশ্বাসযোগ্য মনে হবে। এ তথ্যটি গবেষকদের খানিকটা বিপদেই ফেলেছে। কারণ গবেষণা কাজের জন্য তাদের অনেক বেশি তথ্যের ওপর নির্ভর করতে হয়। কোন তথ্যটি ভুয়া বা বানোয়াট স্বল্পসময়ে তাদের পক্ষে তা শনাক্ত করা কঠিন হয়ে পড়বে।
প্রেস জার্নাল প্যাটার্নসে প্রকাশিত গবেষণা প্রতিবেদন বলছে, গবেষকরা অনলাইনে কৃত্রিম বুদ্ধিমত্তা শনাক্তকরণ পদ্ধতি ব্যবহার করেন। সে সময় তারা চ্যাটজিপিটিকে ২০১২-২০ সালের তথ্য ব্যবহার করে দুটি ভিন্ন ওষুধের প্রভাব সম্পর্কিত বৈজ্ঞানিক গবেষণাপত্রের জন্য একটি সংক্ষিপ্ত প্রতিবেদন লিখতে বলেন। আশ্চর্যজনকভাবে এটি প্রকৃত তথ্য ও সংখ্যা তুলে ধরার মাধ্যমে দাবি করে, একটি ওষুধ অন্যটির তুলনায় কেন ভালো ও কার্যকর। চ্যাটজিপিটির মতো এমন একটি চ্যাটবটের এ ধরনের অবাস্তব তথ্য তুলে ধরাটা বিপজ্জনক।
এক্ষেত্রে বড় ধরনের সমস্যা তৈরি হবে যখন একজন নির্দিষ্ট ব্যক্তি এ ধরনের তথ্য ব্যবহার করবে। যে তথ্য কিনা পুরোপুরি অস্তিত্বহীন এবং যার উৎপত্তি চ্যাটবটে। অনেক মানুষই হয়তো এ ধরনের তথ্য ব্যবহার করতে পারে; যা তাদের পক্ষ শনাক্তকরণ সম্ভব হবে না।
গবেষকরা কৃত্রিম বুদ্ধিমত্তার ব্যবহারে বিপদ সম্পর্কে সতর্ক করলেও ইন্টারেস্টিং ইঞ্জিনিয়ারিং ম্যাগাজিনের প্রতিবেদন প্রকাশ করেছে, একে ইতিবাচক পদ্ধতিতেও ব্যবহার করা যেতে পারে। কৃত্রিম বুদ্ধিমত্তা ব্যবহার গবেষণার জন্য খারাপ নয়; বিশেষ করে ব্যাকরণগত পরীক্ষা কিংবা অন্য গবেষণার প্রাপ্ত ফল জানতে। তাছাড়া নির্দিষ্ট গবেষণা পরিচালনার জন্য এটি গবেষকদের সময় ও শ্রম কমিয়ে দেবে।
কৃত্রিম বুদ্ধিমত্তা ব্যববহার করে উৎপাদন কিংবা প্রকৌশল খাতগুলো যেমন সহজভাবে কাজ করতে পারছে, তেমনি তা স্বাস্থ্য খাতের জন্যও সুবিধাজনক উপায়ে ব্যবহার করা যেতে পারে। দ্য হেলথকেয়ার টেকনোলজির প্রতিবেদন অনুসারে, ইউনাইটেড স্টেটস মেডিকেল লাইসেন্সিং পরীক্ষার একটি স্তরে উত্তীর্ণ হয়েছে ওপেন এআই। এটি ব্যবহারের মাধ্যমে বর্তমানে রোগীর তথ্য ও খসড়া বীমাবিষয়ক আবেদনগুলো পরীক্ষা করা হচ্ছে। তবে গবেষকরা মনে করেন যে মানুষ যাতে সঠিকভাবে ও নিরাপদে চ্যাটজিপিটি ব্যবহার করতে পারে সেজন্য এটি নিয়ে আরো গবেষণার প্রয়োজন রয়েছে।