反饋循環對于自動化至關重要，但可能被證明是AI的致命弱點。

歡迎來到書籍。隨著一個少于五個美國人閱讀只是為了好玩，這些天，我們通過在網上淘的最有趣的為你做的辛勤工作，發人深省的科學和技術，我們可以找到的書籍，并提供一個容易消化的金塊故事。

如果不是機器學習，我們的現代世界將不存在。從電信到運輸，醫藥到航空航天，人工智能的加速發展已經證明對人類和公共利益來說是一個福音。然而，允許他們從過去的經驗中學習的相同能力可以并且可能被用于諸如扼殺商業競爭之類的卑鄙目的。在下面摘錄了誰害怕人工智能？作者Thomas Ramge研究了反饋循環對自動化的影響，以及如何控制它們產生的數據可以使公司不公平地影響市場。

反饋創建數據壟斷

對于計算機學習系統，人類的陳詞濫調是正確的：在你嘗試之前，你永遠不會知道。然而，與人們一樣，只有當計算機系統識別其嘗試是成功還是失敗時，計算機才成為現實。因此，反饋數據在學習計算機系統中起著決定性（并且經常被忽視）的作用。學習系統越頻繁和準確地接收關于它是否找到了正確的電話號碼，實際計算出最佳路線，或者從照片中正確診斷出皮膚狀況的反饋，它學得越好越快。

反饋是所有自動控制機器方法的技術核心。美國數學家諾伯特·維納（Norbert Wiener）在20世紀40年代為此建立了理論基礎 - 控制論。每個技術系統都可以通過反饋數據根據目標進行控制和重定向。這聽起來比現在復雜得多。

一些最早的控制論系統是美國陸軍用于保衛英國城市免受德國V-1巡航導彈攻擊的自動火箭防御系統。雷達探測到德國火箭，在連續反饋回路中向防空大炮通報了炸彈的位置，并計算了其未來的飛行路徑。大炮根據連續的反饋信號瞄準自己，然后在（希望）正確的時刻開火。在戰爭結束時，英國人和美國人在天空中射擊了大約70%的“復仇武器”。

值得慶幸的是，反饋循環不僅僅是軍事創新。如果沒有他們，阿波羅任務將永遠不會降落在月球上，沒有噴氣式飛機可以安全地飛越海洋，沒有噴射泵可以為活塞提供完美時間的汽油，并且當人的腿被卡在其中時，電梯門不會重新打開。但在其他領域，反饋循環與人工智能中的一樣重要。它們是最重要的原料。

當我們開始在Google中輸入一個術語時，反饋數據就會起作用，Google會立即建議我們正在尋找的內容。事實上，谷歌的建議可能是一個更好的搜索術語，因為許多其他谷歌用戶已經給出系統反饋，當他們點擊相同或類似搜索詞中的谷歌建議時，經常搜索該術語。然后，當我們接受建議時，我們會創建其他反饋數據。如果我們改為輸入不同的術語，我們也會做同樣的事情。亞馬遜使用反饋數據優化其推薦算法，而Facebook對用戶在其時間軸中看到的帖子星座也是如此。這些數據有助于PayPal以不斷提高的準確度預測付款是否可能是欺詐性的;你可以想象，

數據在人工智能時代具有類似的效果，規模經濟在工業化過程中具有大規模生產的作用，而網絡效應對過去二十五年的數字經濟產生了影響。規模經濟降低了福特T型車型，索尼管式電視機，華為智能手機等實物產品的成本，達到了科學管理發明者弗雷德里克溫斯洛泰勒難以想象的程度。斯坦福大學經濟學家卡爾夏皮羅和哈爾瓦里安廣泛調查的網絡效應導致了亞馬遜，eBay，阿里巴巴，Facebook和微信以及優步和迪迪等數字平臺的壟斷地位。網絡效應意味著每個新參與者，平臺對使用它的每個人都更具吸引力。使用WhatsApp的人越多，用戶安裝應用的次數就越多，因為通過應用程序聯系朋友或熟人或參與群聊更有可能。運行Android操作系統的智能手機越多，開發人員開發Android應用程序的吸引力就越大，再次提升了操作系統的吸引力。

另一方面，人工智能中的反饋效應導致系統變得更加智能，因為越來越多的人向機器提供反饋數據。反饋數據是智能技術學習過程的核心。在接下來的幾年中，數字反饋將帶來商業上可行的自動駕駛系統，語言翻譯程序和圖像識別。反饋數據將導致立法者相當頭疼，因為如果沒有新的措施來防范壟斷，長期反饋數據的積累將幾乎不可避免地導致數據壟斷。最受歡迎的產品和服務將迅速改進，因為大多數反饋數據將被輸入其中。機器學習將在某種程度上融入這些產品中，這意味著只有在特殊情況下，創新的新人才有機會對抗AI驅動的經濟的頂級犬。自我改進技術阻礙了競爭。人類必須找到這個技術問題的法律答案。