کولمبیا یونیورسٹی کی تحقیق میں انکشاف ہوا ہے کہ AI ٹولز اپنی ہی بنائی گئی تصاویر کو پہچاننے میں ناکام رہتے ہیں، جس سے آن لائن معلومات پر اعتماد متاثر ہوتا ہے۔
نیویارک: (رائیٹ ناوٴ نیوز) کولمبیا یونیورسٹی کی تحقیق میں انکشاف ہوا ہے کہ مصنوعی ذہانت کے ٹولز، جو جعلی تصاویر کی شناخت کے لیے بنائے گئے ہیں، اکثر اپنی ہی بنائی گئی تصاویر کو پہچاننے میں ناکام رہتے ہیں۔
تحقیق کے مطابق، سات مختلف چیٹ بوٹ ماڈلز کی جانچ میں یہ بات سامنے آئی کہ یہ تمام ماڈلز فوٹو جرنلسٹ کی فراہم کردہ دس تصاویر کی اصلیت اور ماخذ کی درست شناخت نہیں کر سکے۔
مزید برآں، تحقیق میں کئی ایسے واقعات بھی سامنے آئے جہاں جنریٹیو ماڈلز کی تیار کردہ تصاویر کو وہی ٹولز اصلی قرار دیتے ہیں جو ان کی شناخت کے لیے استعمال ہوتے ہیں۔ فلپائن کے سابق قانون ساز کی وائرل تصویر کی جانچ کے دوران AI ٹول نے اسے حقیقی قرار دیا، حالانکہ وہی ماڈل تصویر بنانے والا تھا۔
ماہرین کا کہنا ہے کہ زیادہ تر ماڈلز زبان یا پیٹرن کی بنیاد پر تربیت یافتہ ہوتے ہیں اور بصری حقیقت کا درست اندازہ لگانے کی صلاحیت محدود رکھتے ہیں۔
ماہرین نے بتایا کہ آن لائن معلومات کے ماحول میں اعتماد کو یقینی بنانے کے لیے صرف AI ٹولز پر انحصار کافی نہیں، کیونکہ یہ اپنی تخلیقات کی شناخت میں خامیوں کا شکار ہیں۔
