新的除錯程式能找出人工智慧系統的缺陷

jiunn36

　　當人工智慧(AI)系統變得普及﹐出錯造成危險後果的機率也就大增。例如﹐美國麻省理工學院(MIT)的科學家最近誤導Google訓練的AI程式﹐讓它把塑膠玩具烏龜當成步槍。如果未來的機器警察或士兵犯下這類錯誤﹐後果可能會是悲劇。但研究人員正在研發工具﹐從構成這類系統的幾十億個虛擬「大腦細胞」中找出潛在缺陷。
　　很多影像辨識程式﹑汽車自動駕駛和其他用途的AI﹐運用的都是人工神經網路﹔研究人員輸入資料給所謂的「人工神經元」﹐它們藉此協助解決問題﹐例如辨識路障。人工神經網路的「學習方式」是不斷調整人工神經元之間的連結﹐一再設法解決問題。一段時間之後﹐人工神經網路判斷哪些人工神經連結模式能算出最佳解決方案﹐接著採用這些模式進行預測﹐此乃模擬人類大腦的學習方式。
...

瀏覽完整內容，請先 註冊 或 登入會員

boring130

但是某些事件是完全承受不起一頂點的錯誤可能導致致命的風險。