李彥宏：不擔心人工智能會控制人類，安全是百度的第一天條
在2018年中國國際大數(shù)據(jù)產業(yè)博覽會上，百度董事長李彥宏發(fā)表《為了一個更美好的AI時代》主題演講，話題圍繞對人工智能（AI）的擔心展開。李彥宏表示，“我不擔心人工智能會控制人類，但并不是沒有擔心?！?/p>
5月26日，在2018年中國國際大數(shù)據(jù)產業(yè)博覽會上，百度董事長李彥宏發(fā)表《為了一個更美好的AI時代》主題演講，話題圍繞對人工智能（AI）的擔心展開。李彥宏表示，“我不擔心人工智能會控制人類，但并不是沒有擔心。”
他表示，在今年全國“兩會”時自己被問得最多的是無人車什么時候量產。當時他稱今年7月份無人車就可以量產，現(xiàn)在已至5月，還剩下一個多月時間，他有期望、有焦慮、有擔心，“不是擔心這個車量產不了下不了線，我在擔心這個車是不是租購的安全。”
對此，李彥宏表示，對于百度而言，安全是自動駕駛最最重要的一個方向，是百度的第一天條，“什么東西都可以錯，但是這個東西不能錯。一旦錯，一旦出事，就有可能使得整個技術的推進停滯一年到兩年。更重要的是，人的安全是最最寶貴的，是我們最看中的，我們不能夠在這方面容忍錯誤。”
他在現(xiàn)場展示了一段視頻，視頻展示的情景是，百度無人車在轉彎調頭時，旁邊跑出來一只小狗，無人車正確在小狗面前停下來，讓其過去之后才接著開。
李彥宏對此表示，這其實是一個比較難的東西，無人車在高速公路、封閉公路上快速行駛其實是相對安全的，路況比較簡單。而在開放城市道路上，有人，有各種各樣預想不到的事情，車能不能很好控制自己，是一個非常難的問題，要解決了這個問題，車才能真正變成無人車，才能夠自動駕駛。
李彥宏稱，百度不是造車的，而是一個完全開放的平臺，“我們的技術通過開放源代碼、開放數(shù)據(jù)，讓所有想造無人車的生產廠商能夠從中獲益。”
他表示，從代碼的開放到后來量產，中間又增加了很多新代碼，其中接近50%的代碼是為了安全而增加，“真的要量產了，真的要下線進入商用，真的要載人了，我們不能讓它錯，所以大量的經歷放在了安全上，要符合車規(guī)。”
李彥宏坦言，在兩三年前，他無法想象到今年可以看到沒有駕駛位、沒有方向盤的車能夠在一些封閉的場景中使用。他相信，這種狀態(tài)會越來越好，不僅僅是像百度這樣的公司在推進無人車在車層面技術的演進，還有一個很重要的方向，是政府在推動基礎設施方面的演進——越來越多地在道路上布置各種各樣的傳感器，讓車可以更低的成本、更高的精確度識別各種各樣的障礙物和交通規(guī)則。
李彥宏認為，無人車不是某一個公司單方面的努力，而是方方面面的巨大生態(tài)，“而它的這種演進，我覺得中國最有希望，因為它在很多很多基礎設施的建設上都是在全世界是超前的。”
值得注意的是，李彥宏介紹，百度最近推了一個新的搜索APP，叫做“簡單搜索”，一是運用人工智能技術，可用語音調取，也可用攝像頭拍照片識別指令。語音調取方面，根據(jù)不同的人發(fā)出的不同聲音，給出相應的搜索結果也是不一樣的，例如含有成人模式/標準模式，以及少兒模式，即能夠檢測出來用戶的聲音是成年人聲音，還是兒童聲音。
二是，該搜索APP無廣告，在搜索結果中沒有任何廣告。李彥宏在會上承諾，簡單搜索在搜索結果里面永遠不放廣告。
對于人工智能時代，李彥宏認為有四個需要共同遵循的理念和規(guī)則。
第一，人工智能的最高原則是安全可控。“一輛無人車如果被黑客攻擊了，它有可能變成一個殺人武器，這是絕對不允許的，我們一定要讓它是安全的，是可控的。”
第二，需要認真思考如何能夠在新時代讓所有企業(yè)、所有人能夠平等獲取AI的技術和能力，而不僅僅是少數(shù)大公司的專利；如何能夠防止在人工智能時代因為技術的不平等導致人們在生活、工作各個方面變得越來越不平等。
第三，希望通過人工智能、個性化推薦，能教人學習，讓人變成更好的人。
第四，因為人工智能，勞動不再成為人們謀生的手段，而是變成人的一種需求，“你想工作，你想去創(chuàng)新，你想去做創(chuàng)造，所以你才去工作，這是AI的終極理想，我們要為人類帶來更多自由和可能。”
李彥宏在最后表示，AI的使命不是替代人，而是讓技術忠誠于人類，服務于人類，讓人類的生活變得更美好。
附：李彥宏出席2018年貴陽數(shù)博會演講實錄《為了一個更美好的AI時代》
大家下午好！非常高興第三次來到貴陽數(shù)博會，跟大家交流有關人工智能方面的一些看法。應該說，我覺得每一次來感受都非常深刻，貴陽的數(shù)博會影響力一年比一年大，人也一年比一年多，但是對于我來說，每一年其實都沒有什么變化，談的話題都是人工智能。
去年我在這個論壇上講人工智能其實有很多誤解，有人覺得它是仿生學，有人覺得它會威脅到人類的安全，我一直講，我是一個樂觀派，我覺得人工智能不可能威脅到人類的安全。我當時，說請大家不要擔心。那今天我想講什么呢？起的名字叫“為了一個更美好的AI時代”。
名字起得很美好，話題實際上是想談我對人工智能的擔心。我不擔心人工智能會控制人類，但是并不是沒有擔心。那我對人工智能擔心什么？
今年“兩會”的時候也有很多記者問我各種各樣的問題，跟百度有關的問題，但是問得最多的，還是無人車什么時候量產。我當時夸了一個?？冢f今年7月份無人車就可以量產，我們與廈門金龍的小巴車，沒有方向盤、沒有駕駛位的全自動的車很快就會量產了，現(xiàn)在已經5月份了，剩下一個多月時間了，我有期望、有焦慮、有擔心，不是擔心這個車量產不了下不了線，我在擔心這個車是不是足夠的安全。
所以，對于我們來說，安全是自動駕駛最最重要的一個方向，它是我們的“天條”。什么東西都可以錯，這個東西不能錯。一旦錯的，一旦出事，就有可能使得整個技術的推進會停滯一年到兩年。更重要的是，人的安全是最最寶貴的，是我們最看中的，我們不能夠在這方面容忍錯誤。所以我想給大家看一下我們在自動駕駛的安全方面，前一段時間測試的視頻，這個測試是在雄安，百度無人車在轉彎調頭的時候，路邊突然跑出來一只小狗，無人車很正確地在小狗面前停下來，讓它過去之后，才再接著開的，我們一起來看一下。
這其實是一個比較難的東西，無人車在高速公路、封閉公路上快速行駛其實是相對安全的，那個路況是比較簡單的。而在開放城市道路上，有人，有各種各樣預想不到的事情，它能不能很好控制自己，這就是一個非常難的問題，要解決了這個問題，這個車才能真正的變成無人的，才能夠自動駕駛。
大家知道，百度不是造車的，我們是一個平臺，我們是一個完全開放的平臺，我們的技術通過開放源代碼、開放數(shù)據(jù)，讓所有的想造無人車的生產廠商能夠從中獲益。
從我們代碼的開放到后來量產，這中間增加了很多新的代碼，其中接近50%的代碼都是為了安全增加的，真的要量產了，真的下線進入商用，真的要載人了，我們不能讓它錯，所以大量的經歷放在了安全上，要符合車規(guī)。所以我們在國內從事自動駕駛研發(fā)的互聯(lián)網公司當中第一個拿到了ISO26262這個流程的認證，所有電子產品的安全性的認證和規(guī)范。
因為無人車是一個很大的產業(yè)，也有很多很多的合作伙伴與我們一起在做，這就使得整個產業(yè)比我們想象推進要快。說實話，兩三年前我是無法想象到今年可以看到沒有駕駛位、沒有方向盤的車能夠在一些封閉的場景中使用，不管是封閉的園區(qū)、碼頭還是景區(qū)能夠跑起來，所以它是經過了很多方，從政府到汽車制造商、科研機構、出行服務商，甚至電信運營商各個方面的共同努力，才達到這樣一個狀態(tài)的。
這種狀態(tài)我相信會越來越好，不僅僅是像百度的這樣公司在推進無人車在車這個層面技術的演進，還有一個很重要的方向是政府在推動基礎設施方面的演進，它越來越多的在道路上布置各種各樣的傳感器，讓車可以以更低的成本、更高的精確度識別各種各樣障礙物和交通規(guī)則。所以，原來車上可能有貴達幾萬美元的激光雷達設備才能夠探測周邊的障礙物，但是如果我們能夠在道路層面、基礎設施層面把相應的傳感器布下去的話，那我們的車就可以用更便宜的傳感器就能夠感知路況，能夠躲避障礙，這樣無人駕駛車的成本就會大大的降低，這也是我們寄予厚望的一個方向。所以，無人車確實不是某一個公司單方面的努力，它是方方面面的巨大生態(tài)，而它的這種演進，我覺得中國最有希望，因為我們有一個強實力的政府，它在很多很多基礎設施的建設上都是在全世界是超前的。
以上是在無人車方面我的擔心和相應的措施。其實，人工智能也在毫無爭議、不可避免地改造傳統(tǒng)移動互聯(lián)網，包括搜索在內。我也給大家看一下，百度最近推了一個新的搜索APP，叫做“簡單搜索”，它主打兩個特點。
先講第一個特點，就是人工智能。對于傳統(tǒng)互聯(lián)網來說，人工智能是對語音、圖像、自然語言的精確理解，大家可以看一下。
這里可以用語音調取，也有用攝像頭拍一張照片它就可以識別它到底是什么意思，這其實都是用了很多的AI的能力。
同時，AI還能夠千人千面，不同的人在進行搜索的時候獲得的結果我們認為應該是不一樣的。簡單來說，可以有成人模式，或者說標準模式，另外還有少兒模式，如果它能夠檢測出來你的聲音是一個成年人聲音，還是一個兒童聲音，他給你的結果也是不一樣的，我們來看一下。
我們根據(jù)不同的人發(fā)出來的不同聲音，給出相應的搜索結果也是不一樣的，這是簡單搜索的第一個特點。
第二個特點，實際上我們在兩天前做了一點宣傳，這個搜索APP是無廣告的，在搜索結果中沒有任何廣告。后來我看了一下網上評論，大多數(shù)人都不相信，說你騙人的吧，你怎么可能沒有廣告。所以我也想利用今天這個機會跟大家講，簡單搜索在搜索結果里面永遠不放廣告，歡迎大家下載來使用。
我們覺得，實際上AI時代除了技術的快速進步之外，也確實隨著產品的落地，人們越來越切身感受AI到底能給人們帶來什么結果時，我們越來越覺得需要有新的規(guī)則、新的價值觀、新的倫理，至少要在這方面進行討論。
不僅僅無人車要能夠認識紅綠燈，所有的AI新的產品、新的技術都要有一個我們大家共同遵循的理念和規(guī)則。所以我想到了四個方面東西。
第一，我們認為AI的最高原則是安全可控。一輛無人車如果被黑客攻擊了，它有可能變成一個殺人武器，這是絕對不允許的，我們一定要讓它是安全的，是可控的。
第二，我們今天看到像BAT，或者是美國的Facebook、Google、Microsoft，這些公司的AI能力都很強，但是世界上不僅僅只有這幾個大公司需要AI的能力、技術，世界上有幾千萬家公司、組織、機構也很需要AI的技術、能力。我們怎么能夠在新的時代讓所有的企業(yè)、所有的人能夠平等地獲取AI的技術和能力，而不僅僅是少數(shù)大公司的專利，我們怎么能夠防止在AI時代因為技術的不平等導致人們在生活、工作各個方面變得越來越不平等？這是我們需要去認真思考的。
第三，與此同時，AI做出來的很多東西不應該僅僅是去簡單地模仿人；不是人喜歡什么它就給你什么；不能人喜歡娛樂八卦，就百分之百的信息流都推娛樂八卦；不是只要能讓人在這里多待一分鐘就不讓他少待一分鐘。這不是我們想要的。我們希望通過AI，通過個性化推薦，給人們的信息是能教人學習。當你花了一個小時之后，過段時間之后，能夠發(fā)現(xiàn)學到了一些跟原來不一樣的、好的東西，讓我們變成更好的人。這是我們希望看到的。
第四，也是過去很多人在問的，如果人類很多工作或者勞動逐漸被機器所替代的話，人還能干什么？人可以休息。我們現(xiàn)在一周工作五天，休息兩天，也許未來一周工作兩天，休息五天。但是更重要的是，很可能因為人工智能，勞動不再成為人們謀生的手段，而是變成人的一種需求。你想工作，想去創(chuàng)新，你想去做創(chuàng)造，所以你才去工作。這是AI的終極理想，我們要為人類帶來更多自由和可能。
AI的使命是什么？不是替代人，是讓技術忠誠于人類，服務于人類，讓人類的生活變得更美好。
這就是我今天想講的，謝謝大家。
（來源：澎湃新聞）