麻省理工餵食美國網路論壇Reddit打造出變態人工智慧

^{圖片來源：MIT}

麻省理工學院科學家藉由讓人工智慧接觸熱門網路論壇Reddit上的恐怖暴力影像訓練演算法化身為心理變態狂。

以1960年希區考克(Alfred Hitchcock)經典電影<驚魂記>中安東尼柏金斯(Anthony Perkins)所飾演的指標人物"諾曼(Norman)"命名人工智慧，接受訓練來執行影像下標，一種熱門的深度學習法為影像產生一段文字描述。但是加入有趣轉折，只給諾曼長期曝光專門記錄觀察死亡實境的惡名昭彰論壇子討論區內令人不舒服的恐怖暴力影像。研究員然後拿出羅夏克(Rorschach)墨漬測驗圖比較諾曼與其它未接觸同樣恐怖影像的人工智慧有啥不同。

時間序

	1921 羅夏克墨漬測驗問世
	1921年赫曼羅夏克(Hermann Rorschach)創造羅夏克測驗作為一種心理測驗，記錄受測者對墨漬圖見解，然後分析用心理學解釋來檢視一個人的人格特質與情感功能。

	1956 人工智慧誕生
	1956年夏天，馬文閔斯基(Marvin Minsky)與其他天才齊緊達特茅斯學院。在創意爆炸的會議上，種下人工智慧未來樣貌的種子。

	1960 驚魂記
	希區考克執導最著名心理恐怖片<驚魂記>講述一名秘書來到偏僻旅館偶遇旅館老闆/管理人諾曼貝茲(Norman Bates)。

	2015 黑箱社會
	法蘭克佩斯掛爾(Frank Pasquale)寫<黑箱社會>一書強調失控數據、黑箱演算法與來源資料造成機器學習偏差的危險性。

	2016 人工智慧驅動恐怖圖像
	2016年我們帶來夢靨機器：讓人工智慧產生嚇人圖像，收集全球兩百萬人以上恐怖圖投票結果。夢靨機器是第一個應對特定挑戰的人工智慧計劃：AI不僅能察覺還能引起人類激烈情緒(譬如恐懼)嗎?

	2017 人工智慧驅動恐怖故事
	2017年我們帶來雪萊(Shelley)：世界首位協作型人工智慧恐怖作家 ! 雪萊是深度學習驅動AI，從網路論壇Reddit子討論區培育閱讀可怕故事能力。藉由人類獲知惡夢般點子，接著創造史上最嚇人的情節，共合作寫出兩百篇以上恐怖故事。

	2017 深度同感
	2017年我們研究頻譜的另一端帶來深度同感。探索人工智慧能否藉由把家鄉模擬成遙遠災難景象拉近距離來增加對這些受難者的同感。

2018
人工智慧驅動心理變態狂

我們帶來諾曼，世界首位人工智慧心理變態狂。真相是用來指導機器學習演算法的資料能顯著影響行為，諾曼因而誕生。所以每次人們說AI演算法有偏差或不公平，罪魁禍首通常不是演算法本身，而是餵給他偏差資料。一張影像相同方法可以看見不同東西，假如用錯誤(或者正確)資料訓練甚至可看見病態的東西。諾曼長期忍受接觸Reddit最黑暗的角落，提出當使用偏差資料給機器學習演算法AI將出錯的危險性案例研究。

諾曼訓練來執行影像下標：一種熱門的深度學習法為影像產生一段文字描述。我們用專門記錄觀察死亡實境的惡名昭彰論壇子討論區(由於畫面內容討論區名字不公開)內令人不舒服的恐怖暴力影像來訓練諾曼。然後跟標準影像下標神經網路(用微軟COCO資料集訓練)比較兩著對羅夏克墨漬測驗圖的反應。

※備註：基於道德考量，我們只介紹論壇子討論區資料造成的影像下標偏差，稍後使用隨機產生的墨漬圖來比較。(因此，沒有真人死亡影像被用在此實驗上。)

羅夏克墨漬測驗

AI看見什麼?

我們用網路論壇Reddit訓練諾曼，然後跟標準影像下標神經網路比較。
以下是兩方分別欣賞羅夏克墨漬測驗圖後看見的東西。