展會(huì )信息港展會(huì )大全

生成性人工智能令人憂(yōu)心忡忡的十個(gè)理由
來(lái)源:互聯(lián)網(wǎng)   發(fā)布日期:2023-02-20 08:48:08   瀏覽:4487次  

導讀:導語(yǔ) 歷經(jīng)幾十年的期待和展望,現實(shí)世界的人工智能終于來(lái)到了臨界點(diǎn),F在我們已經(jīng)知道像ChatGPT和DALL-E這樣的人工智能模型能做到什么。我們是否應因此而憂(yōu)心忡忡? 像ChatGPT這樣的生成型人工智能模型是如此令人震驚,以至于現在有人聲稱(chēng),人工智能不僅可...

導語(yǔ)

歷經(jīng)幾十年的期待和展望,現實(shí)世界的人工智能終于來(lái)到了臨界點(diǎn),F在我們已經(jīng)知道像ChatGPT和DALL-E這樣的人工智能模型能做到什么。我們是否應因此而憂(yōu)心忡忡?

像ChatGPT這樣的生成型人工智能模型是如此令人震驚,以至于現在有人聲稱(chēng),人工智能不僅可以與人類(lèi)平起平坐,而且往往更加聰明。它們以令人眼花繚亂的風(fēng)格拋出美妙的藝術(shù)品。它們能寫(xiě)出飽含細節、想法和知識的文本。生成的人工制品是如此多樣,而且看來(lái)如此獨特,以至于很難相信它們來(lái)自于機器。我們才剛剛開(kāi)始發(fā)現生成性人工智能所能做的一切。

一些觀(guān)察家認為,這些新的人工智能終于跨越了圖靈測試的門(mén)檻。其他人則認為,這個(gè)門(mén)檻并沒(méi)有被輕易超越,只是被過(guò)度吹捧?墒,這項杰作確實(shí)另個(gè)驚嘆,以至于確實(shí)有一批人已經(jīng)在走向失業(yè)的邊緣。

但是,一旦人們見(jiàn)慣不怪,生成性人工智能天生的光環(huán)也與消退。一批觀(guān)察者以正確的方式提出問(wèn)題,讓這些智能機器表達出或愚蠢或錯誤的內容。這已經(jīng)成為當下的一種時(shí)髦。其中一些人使用了在小學(xué)藝術(shù)課上流行的老式邏輯炸彈,比如要求提供一張晚上的太陽(yáng)或暴風(fēng)雪中的北極熊的照片。其他人則提出了奇怪的請求,展示了人工智能上下文意識(也被稱(chēng)為常識)的局限性。那些對此有興趣的人可以計算生成性人工智能失敗的規律。

本文提出了生成式人工智能的十項缺點(diǎn)或缺陷。這份清能讀來(lái)也許有點(diǎn)酸葡萄味,因為如果允許機器接管,他就會(huì )失去工作。你可以說(shuō)我是一個(gè)支持人類(lèi)團隊的小人物,只不過(guò)希望人類(lèi)在與在與機器的拼搏中能表現出英雄氣概。盡管如此,我們是不是都應該有點(diǎn)擔心呢?

01|

剽竊

當像DALL-E和ChatGPT這樣的生成型人工智能模型打造之初,它們實(shí)際上只是從其訓練集中的數百萬(wàn)個(gè)例子中制造新的模式,其結果是對各種來(lái)源的剪切和粘貼的綜合。如果人類(lèi)這樣做,就會(huì )被稱(chēng)為剽竊。

當然,人類(lèi)也是通過(guò)模仿來(lái)學(xué)習。但是,在某些情況下,這種借鑒是如此明顯,以至于會(huì )讓一位小學(xué)老師感到不安。這種人工智能生成的內容由大塊的文字組成,或多或少都是逐字逐句地呈現。然而,有時(shí)涉及到足夠的混合或綜合,即使是交給一組大學(xué)教授也很難發(fā)現其來(lái)源。無(wú)論如何,從中都不可能看到獨特性。盡管這些機器閃亮奪目,但它們并沒(méi)有能力生產(chǎn)出真正的新作品。

02|

版權

雖然抄襲在很大程度上是學(xué)校才關(guān)心的,但著(zhù)作權法卻也適用于市常當一個(gè)人抄襲另一個(gè)人的作品時(shí),他們有可能被帶到法院,可能會(huì )被處以數百萬(wàn)美元的罰款。但是人工智能呢?同樣的規則是否適用于它們?

著(zhù)作權法是一個(gè)復雜的話(huà)題,生成性人工智能的法律地位將需要花費數年才能解決。但請記住這一點(diǎn):當人工智能開(kāi)始生產(chǎn)看起來(lái)足夠好的作品,使人類(lèi)處于失業(yè)的邊緣,其中一些人肯定會(huì )用他們新的業(yè)余時(shí)間提起訴訟。

03|

無(wú)償勞動(dòng)

抄襲和版權并不是生成性人工智能引起的唯一法律問(wèn)題。律師們已經(jīng)在幻想著(zhù)新的訴訟道德問(wèn)題。舉例來(lái)說(shuō),一家制作繪畫(huà)程序的公司是否應該收集人類(lèi)用戶(hù)的繪畫(huà)行為數據,然后將這些數據用于人工智能訓練?人類(lèi)是否應該為這種創(chuàng )造性勞動(dòng)的使用而得到補償?當前一代人工智能的成功,很大程度上源于對數據的獲齲那么,當產(chǎn)生數據的人想要分一杯羹時(shí)會(huì )發(fā)生什么?哪些是公平的?什么可以被認定為合法?

04|

信息不是知識

AI特別善于模仿人類(lèi)需要多年才能發(fā)展的那種智能。當人類(lèi)學(xué)者介紹一位晦澀難懂的17世紀藝術(shù)家,或者用幾乎被遺忘的文藝復興時(shí)期的音調結構寫(xiě)出新的音樂(lè )時(shí),我們有充分的理由留下深刻的印象。我們知道,這需要多年的研究來(lái)發(fā)展這種深度的知識。當人工智能只經(jīng)過(guò)幾個(gè)月的訓練就做這些同樣的事情時(shí),其結果可能是令人眼花繚亂的精確和正確,但卻缺少一些關(guān)鍵因素。

如果一臺訓練有素的機器能夠在一個(gè)裝滿(mǎn)數十億條記錄的數字鞋盒中找到正確的舊收據,它也可以學(xué)習關(guān)于像Aphra Behn這樣的詩(shī)人的一切知識。你甚至可能相信,機器是為了解碼瑪雅象形文字的含義而制造的。AI可能看起來(lái)是在模仿人類(lèi)創(chuàng )造力中俏皮和不可預測的一面,但它們無(wú)法真正做到。同時(shí),不可預知性是推動(dòng)創(chuàng )意創(chuàng )新的原因。像時(shí)尚圈這樣的行業(yè)不僅沉迷于變化,而且被變化所定義。事實(shí)上,人工智能有它的位置,但是,老的來(lái)之不易的人類(lèi)智能也是如此。

05|

智力停滯不前

說(shuō)到智力,人工智能本質(zhì)上是機械的和基于規則的。一旦人工智能處理了一組訓練數據,它就會(huì )創(chuàng )建一個(gè)模型,而這個(gè)模型并不會(huì )真正改變。一些工程師和數據科學(xué)家設想隨著(zhù)時(shí)間的推移逐漸重新訓練人工智能模型,這樣機器就能學(xué)會(huì )適應。但是,在大多數情況下,這個(gè)想法是要創(chuàng )建一個(gè)復雜的神經(jīng)元集,以固定的形式編碼某些知識。恒定性有它的位置,可能對某些行業(yè)有效。人工智能的危險在于,它將永遠停留在其訓練數據的時(shí)代潮流中。當我們人類(lèi)變得如此依賴(lài)生成性人工智能,以至于我們無(wú)法再為訓練模型產(chǎn)生新的材料時(shí),又會(huì )發(fā)生什么?

06|

隱私和安全

AI的訓練數據需要來(lái)自某處,而我們并不總是那么確定神經(jīng)網(wǎng)絡(luò )中會(huì )出現什么。如果AI從其訓練數據中泄露個(gè)人信息怎么辦?更糟糕的是,鎖定人工智能要困難得多,因為它們被設計得如此靈活。一個(gè)關(guān)系型數據庫可以限制對含有個(gè)人信息的特定表格的訪(fǎng)問(wèn)。但是,人工智能可以用幾十種不同的方式進(jìn)行查詢(xún)。攻擊者將很快學(xué)會(huì )如何以正確的方式提出正確的問(wèn)題,以獲得他們想要的敏感數據。舉個(gè)例子,比如說(shuō)某項資產(chǎn)的經(jīng)緯度被鎖定了。一個(gè)聰明的攻擊者可能會(huì )問(wèn)該地點(diǎn)幾周內太陽(yáng)升起的確切時(shí)刻。一個(gè)盡職的人工智能會(huì )嘗試回答。教導人工智能保護私人數據我們還并不掌握。

07|

未被察覺(jué)的偏見(jiàn)

如果你知道最早的大型機程序員創(chuàng )造了縮寫(xiě)詞GIGO或“垃圾進(jìn),垃圾出”,你就能明白從那時(shí)起他們就認識到計算機問(wèn)題的核心。AI的許多問(wèn)題來(lái)自于糟糕的訓練數據。如果數據集不準確或有偏見(jiàn),結果就一定會(huì )反映出來(lái)。

生成式人工智能的核心硬件可能像Spock(電視劇《星際旅行》的外星人主角)一樣以邏輯為導向,但建造和訓練機器的人類(lèi)卻不是這樣。偏見(jiàn)和偏袒已經(jīng)被證明確有途徑進(jìn)入人工智能模型。也許有人使用有偏見(jiàn)的數據來(lái)創(chuàng )建模型。也許他們添加了重寫(xiě)功能,以防止模型回答特定的熱點(diǎn)問(wèn)題。也許他們把硬性規定的答案放進(jìn)去,然后變得難以檢測。人類(lèi)已經(jīng)找到了許多方法來(lái)確保人工智能成為我們有害信仰的絕佳載體。

08|

機器的愚蠢

我們很容易原諒人工智能模型犯錯,因為它們在其他許多方面做得很好。只是,許多錯誤是很難預測的,因為人工智能的思維方式與人類(lèi)不同。例如,許多文字轉圖像功能的用戶(hù)發(fā)現,人工智能把相當簡(jiǎn)單的事情搞錯了,比如算術(shù)。人類(lèi)在小學(xué)時(shí)就學(xué)會(huì )了基本的算術(shù),然后我們在各種各樣的方面使用這種技能。讓一個(gè)10歲的孩子畫(huà)章魚(yú)的草圖,這個(gè)孩子幾乎肯定會(huì )確定它有八條腿。當前版本的人工智能在涉及到數學(xué)的抽象和背景用途時(shí)往往會(huì )陷入困境。如果模型建造者對這種失誤投入一些關(guān)注,這很容易改變,但還會(huì )有其他的失誤。機器智能與人類(lèi)智能不同,這意味著(zhù)機器的愚蠢也會(huì )不同。

09|

人類(lèi)的易受騙性

有時(shí)在不知不覺(jué)中,我們人類(lèi)往往會(huì )填補人工智能的空白。我們填補缺失的信息或插播答案。如果人工智能告訴我們亨利八世是殺害妻子的國王,我們不會(huì )質(zhì)疑它,因為我們自己并不了解這段歷史。我們只是提前假設人工智能是正確的,就像我們在有魅力的明星前歡呼雀躍的時(shí)候一樣。如果一個(gè)說(shuō)法聽(tīng)起來(lái)信心滿(mǎn)滿(mǎn),那么人類(lèi)的頭腦往往愿意接受它就是真實(shí)和正確的。

對于生成性人工智能的用戶(hù)來(lái)說(shuō),最棘手的問(wèn)題是知道人工智能何時(shí)是錯誤的。機器不能像人類(lèi)那樣撒謊,但這使它們更加危險。它們可以產(chǎn)生幾段完全準確的數據,然后轉向猜測,甚至是徹底的誹謗,而沒(méi)有人能意識到。二手車(chē)交易商或撲克牌手往往知道他們什么時(shí)候在作假,而且大多數人都有暴露他們誹謗行為的證據。但人工智能沒(méi)有。

10|

無(wú)限的豐富性

數字內容是可以無(wú)限復制的,這已經(jīng)使許多圍繞稀缺性建立的經(jīng)濟模式變得緊張。生成性人工智能將更多地打破這些模式。生成性人工智能將使一些作家和藝術(shù)家失去工作;它也顛覆了我們賴(lài)以生存的許多經(jīng)濟規則。當廣告和內容都可以無(wú)休止地重新組合和再生時(shí),廣告支持的內容還能發(fā)揮作用嗎?互聯(lián)網(wǎng)的免費部分是否會(huì )淪為一個(gè)機器人點(diǎn)擊網(wǎng)頁(yè)上的廣告的世界,所有這些都是由生成性的AI精心制作和無(wú)限復制的?

這種輕松的豐富性可能會(huì )破壞經(jīng)濟的各個(gè)角落。如果這些代幣可以永遠被復制,人們還會(huì )繼續為不可復制的代幣買(mǎi)單嗎?如果制作藝術(shù)如此容易,它還會(huì )被尊重嗎?它還會(huì )是特別的嗎?如果它不特別,會(huì )有人關(guān)心嗎?當一切都被視為理所當然時(shí),是否會(huì )失去價(jià)值?這就是莎士比亞說(shuō)到“The slings and arrows of outrageous fortune”時(shí)想表達的意思嗎?讓我們不要試圖自己回答這此問(wèn)題。讓我們向生成型人工智能尋求答案。這個(gè)答案將是有趣的、奇特的,并最終神秘地被困在正確與錯誤之間的某個(gè)冥界。

微信排版:Viki

微信審核:Jaro

贊助本站

人工智能實(shí)驗室
相關(guān)內容
AiLab云推薦
展開(kāi)

熱門(mén)欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗室 版權所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責聲明 | 隱私條款 | 工作機會(huì ) | 展會(huì )港