GPT-4V“大翻車”！把海豹識別成狗！分不清炸雞和泰迪，葫蘆娃也數不明白…

AIGC動態歡迎閱讀

原標題：GPT-4V“大翻車”！把海豹識別成狗！分不清炸雞和泰迪，葫蘆娃也數不明白…
關鍵字：偏見,圖像,干擾,幻覺,模型
文章來源：夕小瑤科技說
內容字數：5342字

內容摘要：

夕小瑤科技說 原創作者 | 付奶茶、王二狗最近聽說，“遙遙領先”的GPT-4V翻大車了！竟然把海豹識別成狗！而且還分不清炸雞和泰迪！
下面是GPT-4V對狗子和海豹的識別結果：
另外微博大V王威廉測試了GPT-4V對炸雞和泰迪的識別結果：
納尼？GPT-4V這么菜??嗎！
我們接著讓GPT-4V識別一下葫蘆娃！
完蛋！GPT-4V不認識這是葫蘆娃！
不要緊，可能是GPT-4V的數據集中沒見過葫蘆娃，但是我給的圖里面明明有7個葫蘆娃，GPT-4V卻說只有6個！GPT-4V看圖識數的本領讓人堪憂呀！
盡管GPT-4V在處理視覺和文本信息時非常厲害，但其產生幻覺的行為還沒人進行系統性的評估。能不能對偏見和干擾做一個系統研究呢？
大模型“幻覺缺陷”研究最近，來自北卡羅來納大學教堂山分校等機構的研究人員對大模型這類“幻覺缺陷”進行了系統性地總結，并提出了一個名為Bingo的新基準測試，用以評估視覺語言模型中的偏見和干擾挑戰。
論文題目：
《Holistic Analysis of Hallucination in GPT-4V(ision):Bias and Interference Chall

原文鏈接：GPT-4V“大翻車”！把海豹識別成狗！分不清炸雞和泰迪，葫蘆娃也數不明白…

聯系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡介：更快的AI前沿，更深的行業洞見。聚集25萬AI應用開發者、算法工程師和研究人員。一線作者均來自清北、國外頂級AI實驗室和互聯網大廠，兼備媒體sense與技術深度。