在納斯達克開盤鐘聲中,Anthropic 執行長再次承諾加快人工智慧發展步伐
在納斯達克開盤演講中,達裡奧·阿莫代 (Dario Amodei) 重申了 Anthropic 致力於加快人工智慧發展的步伐,無論商業或政治壓力如何。
Anthropic 週四在華爾街首次亮相,這是歷史上規模最大的 IPO,執行長 Dario Amodei 重申了該公司負責任地開發人工智慧的承諾。阿莫迪在納斯達克開盤前的演講中誓言,這家人工智慧公司不會屈服於商業或政治壓力,並將「繼續處於人類控制之下」。
這位執行長讀了印出來的演講稿,首先談到了 Anthropic 的起源,即一種構建強大技術來幫助人類的方式——他說這是受到他父親因一種疾病去世的啟發,這種疾病在幾年後就變得可以治愈。
他承認,雖然人類的智慧使世界上大部分地區的鼠疫、天花和小兒麻痺等疾病成為歷史,但科學家仍然太少,沒有時間在其他疾病領域取得進展。他說,人工智慧可以透過與人類合作來推動醫學進步,從而幫助實現這一目標。
阿莫迪以一個強調人工智慧潛在救生應用的故事開始,這是很能說明問題的,因為他多次警告過快推進技術的風險。今年 9 月,阿莫代概述了一項加快人工智慧開發速度的計劃,該計劃引起了各大媒體的關注,其中包括與其他領先公司就安全標準進行協調,以及聘請第三方組織的評估人員來驗證公司是否遵守了其安全承諾等。
OpenAI 執行長 Sam Altman、Google DeepMind 執行長 Demis Hassabis 和 xAI 所有者馬斯克表示,他們同意 Amodei 的立場,儘管尚未做出任何具體承諾。
在今天早上的演講中,阿莫迪再次強調了人工智慧技術進步的必要性以及這樣做所需的安全性。他提到了人工智慧在不良行為者(無論是個人還是民族國家)手中面臨的“非常現實的風險”,以及“經濟混亂”和“人工智慧系統失去控制”等問題的可能性。
他指出,Anthropic 認為,只要採取適當的保障措施,這些風險是可以避免的。 Amodei 表示,該公司將繼續投資於人工智慧調整和測試工作,並開發新的方法來理解人工智慧行為,使其能夠保持在人類的控制之下。
他說:“還有很多工作要做,最艱鉅的安全工作還在後面。” “該公司令人難以置信的人才使我們能夠構建最強大的人工智能係統,現在需要比現在更多地進行雙重和三重檢查,以確保這些人工智能係統是安全的並處於人類控制之下。”
阿莫迪總結道:“明確地說,我們將加快人工智慧系統的訓練和部署步伐,只要有必要,我們就確信它們是安全的,並將繼續處於人類控制之下。”
他的妹妹、Anthropic 聯合創始人 Daniela Amodei 在周四接受 CNBC 採訪時也表達了同樣的觀點,並指出雖然風險確實存在,但人工智慧的前景也是「令人難以置信的」。
「我們確實建立在這樣的理念之上,即減輕這些風險是我們的工作,我認為迄今為止我們在這方面已經做了令人難以置信的工作。顯然我們還有更多的工作要做,但我們堅定地致力於安全,」她補充道。
**Dario Amodei 開幕致詞全文如下:**
謝謝你,丹妮拉。我和我的共同創辦人創立了 Anthropic,因為我們相信我們這個時代最強大的技術應該是為了造福人類而建構的。丹妮拉和我的父親因一種疾病去世,幾年後這種疾病就可以治癒。我的職業生涯始於生物學,希望能幫助未來的療癒方法早日到來。在實驗室裡,我看到了科學家在試圖了解疾病和開發新療法時所面臨的巨大複雜性。許多能夠突破這一困境的科學工具——基因編輯工具、基因合成工具、用光控制腦細胞的工具——都是從純粹的想法開始的。換句話說,它們來自思考,來自智慧。
人類智慧已經讓世界上大部分地區的鼠疫、天花和小兒麻痺等疾病成為歷史。但對於如此多的患者及其家人來說,其他疾病的進展太慢了。從一個好主意到一種治療方法可能需要幾十年的時間。從首次發現 DNA 中奇怪的重複模式到第一個使用 CRISPR 治療疾病的方法獲得批准,花了很多年的時間。大自然充滿了這些模式,但我們的智慧太少,無法解讀其中的大部分。科學家太少,時間太少。現在我們可以建構這種智能。無論是蛋白質折疊、藥物設計、癌症遺傳學或臨床試驗管理,生物學和醫學許多領域的科學家都發現克勞德可以幫助他們完成研究,所需時間只是幾年前的一小部分。我相信足夠強大的人工智慧,與人類協同工作,可以將一個世紀的科學和醫學進步壓縮為十年。
我不想超越自己。目前,我們所擁有的只是早期結果。實驗和臨床試驗仍然需要時間,儘管它們涉及緩慢而繁重的過程,但我相信人工智慧可以大大加速這些過程。我們希望未來能有更少的家庭因數年而錯過治療。醫學只是一個特別生動的例子,但是克勞德還有很多其他的應用。我們的客戶,包括世界上最雄心勃勃的公司、非營利組織和個人,已經在應用我們建構的智慧來刺激經濟成長、幫助人們擺脫貧困、保護民主和自由社會,甚至使 DMV 等日常服務更好地運作。我們很自豪能與他們一起工作,我對我們未來可以一起做的事情非常樂觀。
同時,我們一直誠實地認為這項技術有非常現實的風險。這些問題包括個人或民族國家濫用科技、經濟混亂以及失去對人工智慧系統的控制等。我們討論這些風險並不是因為我們認為它們是不可避免的並且無論如何我們都在建設,而是因為我們認為它們是可以避免的並且我們可以避免它們。避免它們取決於建構人工智慧的人們所做的選擇。如果我們不關心安全,人工智慧的發展與我們痴迷於安全的人工智慧的發展之間存在巨大差異。對安全和公共利益的痴迷從一開始就融入了 Anthropic 的 DNA,從防範生物和網路風險到校準培訓和測試,再到像 X 射線一樣觀察我們的模型,Anthropic 開創了理解和引導人工智慧行為並將其置於人類控制之下的方法。還有很多工作要做,最困難的安全工作就在我們面前,使我們能夠構建最強大的人工智慧系統的公司的令人難以置信的人才將需要更多地進行雙重和三重檢查,以確保這些人工智慧系統是安全的並處於人類控制之下。
明確地說,我們將加快人工智慧系統的培訓和部署步伐,只要有必要相信它們是安全的並將繼續處於人類控制之下,我們就不會屈服於商業或政治壓力。今天,公司的財務狀況變得更加強大,這樣做只會增強我們做正確事情的決心。如果我們能夠證明我們可以在安全方面做出正確的選擇,同時仍能打造一家極其成功的公司,那麼我們行業的其他人也會受到啟發,採取同樣的做法。我們稱之為登頂競賽。
當競爭順利進行時,哪家公司擁有最好的模型並不重要。每個人都贏了,因為每個人都在安全地建造。當處於領先地位時,衝向頂峰的比賽效果最佳,我們完全希望並期待這樣做。但我們的目標是讓整個產業變得更好,無論 Anthropic 在任何特定時間是贏還是輸。機器智慧的出現是人類歷史上的開創性時刻之一,我們有一個難得的機會讓它變得更好。謝謝。