我是AI新手 |
我是一名人工智能（AI）新手。我不是數據科學家或計算機科學家，甚至不是數學家。但我對AI的可能性著迷，迷戀於它的承諾，有時甚至害怕它的潛在後果。 我有幸與那些尋求利用AI的可能性的數據科學家一起工作。我不知道他們有能力使人工智能係統“幾乎”成為人類。我故意使用這個詞。 我的意思是“幾乎”人類，因為到目前為止，人工智能係統缺乏人性的基本原理。他們擁有人性的機制，邏輯，理性和分析等品質，但這遠不是使我們成為人類的東西。他們最具人性的特質是我們更喜歡他們沒有繼承的特質 - 傾向於使偏見永久化。成為人類就是有意識。要有感情。有常識。並且能夠利用這些品質和生活體驗，告訴他們不僅成功地解釋了我們世界的黑白，還有數以百萬計的灰色陰影。 雖然數據科學家正在努力解決與人工智能相關的許多技術挑戰，但我發現有一些我覺得特別有趣。第一個是偏見，第二個是缺乏常識。 人工智能傾向於偏見是我們自己造成的怪物。由於人工智能在很大程度上是數據的奴隸，因此可以從中學習，其輸出將反映數據的所有方面，包括偏差。我們已經看到利用人工智能的應用程序無意中使人類偏見長期存在但帶來令人不安的後果的情況。 例如，許多州已開始使用風險評估工具，利用人工智能來預測刑事被告可能的再犯率。這些工具產生一個分數，然後由法官用來確定被告的判決。問題不在於工具本身，而在於用於訓練它的數據。有證據表明，我們的司法系統歷來存在重大的種族偏見，所以當這些數據用於培訓人工智能時，產生的結果同樣存在偏差。 ProPublica在2016年的一份報告發現，算法評估工具可能會錯誤地將非洲裔美國被告作為未來的罪犯，幾乎是白人被告*的兩倍*。對於任何看過湯姆克魯斯電影“少數派報告”的人來說，考慮電影中用於預測未來犯罪行為的虛構技術與人工智能的現實應用之間的相似性是令人不安的。 第二個挑戰是如何訓練人工智能以詮釋人類的細微差別。直接訓練人工智能如何做一些事情，比如將圖像識別為河馬。你為它提供了數百或數千個河馬的圖像或描述，並最終得到它，如果不是所有的話。 對於可能更難以區分的事物，準確率可能會下降 - 例如綿羊的圖片與綠色毯子上的爆米花圖片 - 但是如果有足夠的訓練，這是一個可以克服的挑戰。 有趣的是，挑戰並不僅限於缺乏特色的東西。實際上，那些非常明顯且永遠不會被陳述或記錄的事情對於AI來說也同樣難以處理。 例如，我們人類知道河馬不能騎自行車。我們天生就知道，如果有人說“吉米在游泳池裡玩他的船”，除非極少數情況下可能涉及古怪的億萬富翁，這艘船是一艘玩具船，而不是一艘全尺寸的雙體船。 沒有人告訴我們這些事情 - 這只是常識。人工智能可能會失去解釋這些情況的常識方面。該技術還缺乏從數據推斷情感或意圖的能力。如果我們看到有人買花，我們可以在精神上推斷出為什麼 - 浪漫的晚餐或狗窩裡的某個人。我們不僅可以猜到他們為什麼要買鮮花，而且當我在狗屋裡說某人時，你確切地知道我的意思。並不是說他們確實是在狗屋裡，而是有人做了一些愚蠢的事情，鮮花是贖罪的嘗試。 今天的飛躍對於AI來說太大了。當你添加混合文化差異時，它會以指數方式增加複雜性。如果一個英國人說在靴子裡放東西，很可能是雜貨。如果它是一個美國人，它可能只是一腳。教授AI常識是一項艱鉅的任務，需要該領域專家進行大量研究和努力。 但是，從邏輯，理論和分析到常識的飛躍是我們需要人工智能的一個飛躍，使其真正成為我們在網絡安全和人類努力的其他領域中所需要的工具。 |
