日前網(wǎng)絡(luò)安全公司 Surfshark 發(fā)布關(guān)于“AI incident”(AI 事故，也稱 AI 翻車(chē))的一份報(bào)告。報(bào)告列舉了 2010 年以來(lái)由 AI 所導(dǎo)致的事故情況，并對(duì) AI 事故的詳細(xì)內(nèi)容作出分析。
在過(guò)去的數(shù)十年間，尤其是進(jìn)入 21 世紀(jì) 10 年代之后，人工智能開(kāi)始擁有長(zhǎng)足的發(fā)展，已經(jīng)影響到了我們生活中的方方面面。隨之而來(lái)的代價(jià)，就是 AI 造成的事故也越來(lái)越多。
▲ 圖源 Surfshark，下同
數(shù)據(jù)顯示，2010-2013 年的最初階段，出現(xiàn)了 18 起 AI 事故。
2014-2019 年間，即人工智能的發(fā)展階段，總共發(fā)生了 207 起 AI 事故。
終于，當(dāng)人工智能發(fā)展到 2020-2023 年時(shí)，來(lái)到“應(yīng)用階段”，數(shù)據(jù)已經(jīng)記錄了 293 起 AI 事故，相較 2010-2013 年增長(zhǎng)了大約 15 倍。
其中在 2010-2014 年，每年 AI 事故的數(shù)量均不足 10 起。從 2014 年起，每年事故數(shù)量均出現(xiàn)大幅增長(zhǎng)，唯 2018、2019 年稍有回落。
而隨著 2020 年 OpenAI 開(kāi)發(fā)的 GPT-3 架構(gòu)(ChatGPT 即是基于 GPT-3 研發(fā))問(wèn)世，AI 事故總量開(kāi)始急劇上升，2022 年達(dá)到 91 起。
據(jù)報(bào)告顯示，截至 2023 年 5 月，今年 AI 事故總量已經(jīng)超過(guò)去年的一半，預(yù)計(jì)增長(zhǎng)仍會(huì)繼續(xù)。
另?yè)?jù)軟件評(píng)論服務(wù)公司 G2 的數(shù)據(jù)，從 2022 年 2 月到 2023 年 2 月，聊天機(jī)器人的搜索流量增長(zhǎng)了 261%。而且，G2 整個(gè)數(shù)據(jù)庫(kù)中增長(zhǎng)最快的三個(gè)軟件產(chǎn)品都是 AI 產(chǎn)品?？紤]到近年來(lái) AI 的使用量開(kāi)始暴增，AI 事故數(shù)量明顯增加也是“合乎情理”。
在這些事故中，Facebook、特斯拉、OpenAI 造成的 AI 事故占據(jù)目前所有已知事故的前三名，占比分別為 9.3%、7.7%、7.5%。
報(bào)告發(fā)現(xiàn)：
特斯拉所產(chǎn)生的 AI 事故多聚焦于其 Autopilot 輔助駕駛和 FSD 全自動(dòng)駕駛，會(huì)使汽車(chē)要么意外剎車(chē)、要么無(wú)法識(shí)別前路物體;
Facebook 的 AI 事故是無(wú)法發(fā)現(xiàn)、識(shí)別暴力內(nèi)容和深度偽造的影音文件，予以不法分子可乘之機(jī);
OpenAI 的 AI 訓(xùn)練容易造成數(shù)據(jù)侵權(quán)問(wèn)題、用戶隱私問(wèn)題，這些往往會(huì)給公司帶來(lái)種種麻煩。
