अध्ययन में हुआ खुलासा; ChatGPT जैसे माॅडल आसानी से हो सकते हैं हैक

क्लाउड निर्माता कंपनी एंथ्रोपिक के एक अध्ययन में खुलासा हुआ है कि ChatGPT जैसे बड़े भाषा मॉडल (एलएलएम) को बेहद आसानी से हानिकारक डेटा के ज़रिए हैक/प्रभावित किया जा सकता है। अध्ययन में पाया गया कि सिर्फ 250 'पॉइजन फाइल्स' को ट्रेनिंग डेटा में शामिल कर 'बैकडोर' बनाया जा सकता है जिससे मॉडल अनियमित या भ्रामक जवाब देने लगते हैं।