這八個失敗案例告訴你，人工智能還遠(yuǎn)非萬能

【AI世代編者按】 如今的人工智能已經(jīng)開始滲透我們?nèi)粘Ｉ畹姆椒矫婷妫瑹o論是政府機構(gòu)、企業(yè)公司、教育學(xué)府還是普通人家庭都開始越來越多的看到AI技術(shù)身影穿梭其中。

不過所謂人無完人，AI技術(shù)目前也遠(yuǎn)遠(yuǎn)沒有發(fā)展到“完美”的階段，人們在之前的使用中也多次碰到了AI“宕機”的情況。

以下為AI世代（微信：tencentAI）整理的過去一段時間AI技術(shù)所出現(xiàn)的八個典型失敗案例：

1、亞馬遜Alexa助手自動幫小孩下單購買玩具

今年早些時候，一名六歲的女孩在跟Echo內(nèi)置人工智能語音助手Alexa聊天時，意外訂下了價值170美元的玩具和一盒重達(dá)四磅的餅干。

雖然孩子的媽媽在收到一個不知打哪來的訂單確認(rèn)電話后立刻進行了取消操作，但該訂單卻已經(jīng)被處理，且一個跟孩子身高幾乎相同的玩偶就在隔天送來了。最后，他們無奈的決定將這一玩偶捐贈給當(dāng)?shù)貎和t(yī)院。

2、圖像識別AI出錯

一名名為理查德-里（Richard Lee）的亞裔男子在試圖網(wǎng)絡(luò)更新護照的時候被新西蘭內(nèi)務(wù)部軟件判斷為“眼睛閉上，照片審核未通過”。最后，理查德-里只能親自聯(lián)系被新西蘭內(nèi)務(wù)部，并通過人工審核的方式才成功更新了自己的護照。

3、亞馬遜Alexa誤聽指令向孩子提供成人內(nèi)容

最近國外網(wǎng)站出現(xiàn)一段視頻，在視頻中小孩向亞馬遜Alexa下達(dá)指令：“Alexa，請播放‘Digger digger（一首兒童歌曲）’?！敝?，亞馬遜個人助手通過算法進行識別，竟然認(rèn)為孩子想聽情色內(nèi)容。不一會，孩子的父母才意識到發(fā)生了什么事，可惜他們已經(jīng)無法阻止Alexa繼續(xù)播放聲音。

對此，亞馬遜新聞發(fā)言人表示：“我們之前已經(jīng)修正過該問題，但Alexa很難完全屏蔽成人內(nèi)容。目前我們正在加強限制防止類似的事情再次發(fā)生，并已經(jīng)與客戶取得聯(lián)系向他們致歉?！?/p>

4、機器人誤傷事件

在去年的深圳高交會上，一臺名為“小胖”的機器人在沒有指令的情況下突然自行打砸展臺玻璃，最終導(dǎo)致部分展臺破壞。與此同時，該機器人撞向展臺玻璃致使玻璃倒地、摔碎，并劃傷一名現(xiàn)場觀眾，致其腳踝被劃破流血送醫(yī)。

5、AI竟也存在人種歧視

在由微軟和英偉達(dá)支持的“青年實驗室“（Youth Laboratories）此前舉辦了全球第一屆AI選美比賽，這一比賽也吸引了來自全球119個國家和地區(qū)的六千多人參加。不過，在AI選美比賽的最終結(jié)果卻讓人大失所望，因為在最終脫穎而出的44位選美冠軍中，黃色人種和黑色人種分別只有6名和1名，其余的37張面孔都是白種人，這也讓人不禁懷疑原來AI也存在人種歧視觀念。

6、微軟AI機器人Tay發(fā)布種族主義言論被微軟關(guān)停

微軟此前曾將設(shè)計的“Tay”AI聊天機器人放到了包括Twitter在內(nèi)的社交網(wǎng)絡(luò)上，希望“Tay”能夠通過社交平臺學(xué)習(xí)應(yīng)該怎么像青少女一樣與別人互動。不過，互聯(lián)網(wǎng)上充斥著各種各樣的人，包括那些希望看到世界大亂的網(wǎng)友。其中，就有一幫人希望Tay能說出類似“希特勒是對的”這樣“大逆不道”的話。而且，由于“Tay”在設(shè)計上原本就會模仿人類說話，因此微軟很快便讓“Tay”下線了。

7、谷歌(微博)“還原馬賽克”AI技術(shù)堪比恐怖圖庫

谷歌大腦（Google Brain）團隊此前開發(fā)了一個軟件，能利用人工神經(jīng)網(wǎng)絡(luò)來填充低分辨率圖像細(xì)節(jié)。也就是說，那些打了馬賽克的照片有可能在后期被谷歌成功還原。只不過，在實際使用中我們發(fā)現(xiàn)還原馬賽克AI技術(shù)給出的許多還原后照片都非?？植?。

8、考試機器人沒過大學(xué)錄取線

日本國立情報學(xué)研究所此前推出了一個名為“東大機器人”(Todai Robot Project)的項目，其目標(biāo)是未來能通過日本頂級學(xué)府東京大學(xué)的入學(xué)考試。但有消息稱，自2011年以來“東大機器人項目”就開始攻關(guān)日本的大學(xué)入學(xué)考試，但在過去連續(xù)2年的得分均低于東京大學(xué)的錄取分?jǐn)?shù)線。因此，其開發(fā)團隊已經(jīng)在去年11月正式宣布放棄該項目。（綜合/湯姆）