參考消息網(wǎng)5月3日報道據(jù)美國《紐約時報》網(wǎng)站5月1日報道,被視為人工智能(AI)之父的杰弗里·欣頓周一宣布離開谷歌。欣頓博士和他在加拿大多倫多大學(xué)的兩名研究生在2012年創(chuàng)造了一項技術(shù),該技術(shù)成為人工智能系統(tǒng)的奠基石,而人工智能現(xiàn)在被科技大企業(yè)視為未來的關(guān)鍵。
欣頓周一正式加入到人工智能批評者的行列。批評者們認為,那些積極開發(fā)基于人工智能的產(chǎn)品的企業(yè)是在加速走向危險。
欣頓說,他已辭去谷歌的工作,并對自己一生致力于人工智能開發(fā)感到有些后悔。欣頓已為谷歌效力長達十年。
欣頓從人工智能奠基人到末日預(yù)言者的轉(zhuǎn)變,標志著科技產(chǎn)業(yè)的一個關(guān)鍵時刻,該行業(yè)正處于幾十年來最重要的轉(zhuǎn)折點。業(yè)界領(lǐng)袖認為,人工智能系統(tǒng)的重要性可與上世紀90年代初引入網(wǎng)絡(luò)瀏覽器媲美,并可能給從制藥到教育等一系列領(lǐng)域帶來突破。
但許多業(yè)內(nèi)人士擔心,這有可能是一項危險的技術(shù)。人工智能已經(jīng)成為生成錯誤信息的工具。很快,它就會帶來就業(yè)風險。對人工智能感到最不放心的業(yè)界人士甚至認為,人工智能可能對人類構(gòu)成威脅。
欣頓說:“很難找到防止壞人用它做壞事的方法?!?/span>
在舊金山初創(chuàng)企業(yè)開放人工智能研究中心(OpenAI)今年3月發(fā)布新版ChatGPT之后,1000多名技術(shù)領(lǐng)袖和研究人員簽署公開信,呼吁在6個月內(nèi)暫停開發(fā)人工智能新系統(tǒng)。
幾天后,有40年歷史的人工智能促進會的19名現(xiàn)任和前任領(lǐng)導(dǎo)人發(fā)表公開信,警告人工智能存在風險。
1972年,作為英國愛丁堡大學(xué)的一名研究生,欣頓接受了所謂人工神經(jīng)網(wǎng)的概念,即通過分析數(shù)據(jù)學(xué)習技能的系統(tǒng),并以研發(fā)該系統(tǒng)作為主要工作。
20世紀80年代,欣頓在卡內(nèi)基-梅隆大學(xué)計算機系擔任教授,但后來離開該大學(xué)前往加拿大,因為他不想接受五角大樓的經(jīng)費資助。當時,美國的大部分人工智能研究都是由國防部資助的。但欣頓強烈反對在戰(zhàn)場上使用人工智能,即他所說的“機器士兵”。
2012年,欣頓博士和他在多倫多的兩名學(xué)生伊利亞·蘇茨克韋爾和亞歷克斯·克里舍夫斯基共同創(chuàng)建了一個人工神經(jīng)網(wǎng),它可以通過分析數(shù)千張照片建立自己識別物體的能力,比如認識花、狗和汽車。
谷歌斥資4400萬美元收購了由欣頓博士及其兩名學(xué)生創(chuàng)辦的公司。他們創(chuàng)建的系統(tǒng)催生了越來越強大的技術(shù),包括聊天機器人ChatGPT和谷歌的巴德(Bard)。蘇茨克韋爾后來成為OpenAI的首席科學(xué)家。
大約同一時間,谷歌、OpenAI和其他公司開始建立通過大量數(shù)字化文本學(xué)習的人工神經(jīng)網(wǎng)。去年,谷歌公司和OpenAI公司開始利用更龐大的數(shù)據(jù)建立人工智能系統(tǒng)。欣頓博士認為,這些系統(tǒng)在某些方面仍然不如人腦,但在其他方面已經(jīng)超過了人類智力。
他認為,隨著企業(yè)逐漸升級人工智能系統(tǒng),它們將變得越來越危險。
現(xiàn)在,微軟用聊天機器人加強了必應(yīng)搜索引擎,谷歌也想采用同樣的技術(shù)。欣頓說,科技巨頭們已經(jīng)陷入一場可能無法停止的競爭。
他眼下最擔心的是,互聯(lián)網(wǎng)上將充斥著各種虛假照片、虛假視頻和文字,普通人“再也無法知道什么是真的了”。
他還擔心人工智能會顛覆就業(yè)市場。目前,ChatGPT這樣的聊天機器人還是人類的助手,但它們已經(jīng)可以勝任一些死記硬背的工作。欣頓說:“這不僅會奪走工作機會,它會奪走更多?!?/span>
欣頓擔心,新版本的人工智能會對人類構(gòu)成威脅,因為它們往往會通過分析海量數(shù)據(jù)學(xué)會令人意想不到的本領(lǐng)。他說,這會帶來問題,因為技術(shù)人員和公司不僅允許人工智能系統(tǒng)自己生成代碼,而且還允許它們自行運行代碼。他擔心,有朝一日這會使殺人機器人變?yōu)楝F(xiàn)實。
他說:“過去,有人認為這種東西會變得比人更聰明,我認為這樣想為時過早,成為現(xiàn)實至少還需要30到50年,甚至更長時間。顯然,我現(xiàn)在不這么認為了。”
欣頓博士認為,谷歌和微軟等公司之間的競爭將升級為一場全球競賽,除非有某種形式的全球監(jiān)管,否則競賽不會停止。
但他說,監(jiān)管不太可能,因為與核武器不同,目前無法知道企業(yè)或國家是否在秘密研發(fā)這項技術(shù)。最大的希望是世界頂尖科學(xué)家聯(lián)手找到控制這項技術(shù)的方法。欣頓說:“我認為,不應(yīng)再升級該技術(shù),直到人們確定是否能控制住人工智能?!?/span>
違法和不良信息舉報投訴電話:0377-62377728 舉報郵箱:fbypt@m.4729d.com
網(wǎng)絡(luò)警察提醒你 a>
中國互聯(lián)網(wǎng)舉報中心
網(wǎng)絡(luò)舉報APP下載
掃黃打非網(wǎng)舉報專區(qū)