1.3人工智能會議

會議出席

經(jīng)過一段時間的出席人數(shù)增加后，AIIndex 收集數(shù)據(jù)的會議的總出席人數(shù)在 2021 年和 2022 年再次下降（圖 1.3.1）。這種下降可能是由于許多會議在之后恢復(fù)了混合或面對面的形式。 2020年和2021年完全虛擬。例如，國際人工智能聯(lián)合會議（IJCAI）和國際知識表示與推理原則會議（KR）均嚴(yán)格以現(xiàn)場形式舉行。神經(jīng)信息處理系統(tǒng)（NeurIPS）仍然是其中之一 參加人數(shù)最多的會議，約有 15,530 人參加（圖 1.3.2）。參加人數(shù)一年增幅最大的會議是國際機(jī)器人與自動化大會 (ICRA)，從 2021 年的 1,000 人增加到 2022 年的 8,008 人。

2010-22年人工智能會議的與會者人數(shù)

圖 1.3.1

2010-22年出席大型會議

圖 1.3.2

2010-22年出席小型會議

圖 1.3.3

GitHub是一個基于web的平臺，個人和編碼團(tuán)隊可以在各種代碼存儲庫上托管、審查和協(xié)作。GitHub被軟件開發(fā)人員廣泛用于管理和共享代碼、在各種項目上進(jìn)行協(xié)作，并支持開源軟件。本小節(jié)使用了GitHub和經(jīng)合組織提供的數(shù)據(jù)。人工智能政策天文臺。這些趨勢可以作為學(xué)術(shù)出版物數(shù)據(jù)沒有捕捉到的開源人工智能軟件世界中發(fā)生的一些更廣泛的趨勢的一個代理。

1.4開源人工智能軟件

項目

GitHub 項目是文件的集合，可以包括構(gòu)成軟件項目的源代碼、文檔、配置文件和圖像。 自 2011 年以來，與人工智能相關(guān)的 GitHub 項目總數(shù)穩(wěn)步增長，從 2011 年的 1,536 個增長到 2022 年的 347,934 個。

2011-22年GitHub AI項目數(shù)量

圖 1.4.1

截至2022年，很大一部分GitHub AI項目是由印度的軟件開發(fā)者貢獻(xiàn)的（24.2%）（圖1.4.2）。其次最代表性的地理區(qū)域是歐盟和英國（17.3%），然后是美國（14.0%）。自2016年以來，美國GitHub人工智能項目的份額一直在穩(wěn)步下降。

2011-22年GitHub AI項目（總%）按地理區(qū)域劃分

圖 1.4.2

“點贊”

GitHub用戶可以通過“主演”它來收藏或保存一個感興趣的存儲庫。GitHub的明星類似于社交媒體平臺上的“點贊”，表示對某個開源項目的支持。一些最突出的GitHub存儲庫包括張量流、OpenCV、Keras和PyTorch等庫，這些庫被AI編碼社區(qū)的軟件開發(fā)人員廣泛使用。圖1.4.3顯示了屬于不同地理區(qū)域所有者的項目的累計星數(shù)。截至2022年，來自美國的GitHub AI項目獲得的星數(shù)最多，其次是歐盟和英國，然后是中國。在許多地理區(qū)域，新出現(xiàn)的GitHub恒星的總數(shù)在過去幾年中已經(jīng)趨于穩(wěn)定。

2011-22年按地理區(qū)域劃分的GitHub“點贊”數(shù)量

圖 1.4.3

第二章：技術(shù)性能要求

要點

今年的技術(shù)性能章節(jié)主要分析了2022年人工智能的技術(shù)進(jìn)展。在以前的報告的基礎(chǔ)上，本章記錄了在計算機(jī)視覺、語言、語音、強化學(xué)習(xí)和硬件方面的進(jìn)展。此外，今年本章將對人工智能對環(huán)境造成的影響進(jìn)行分析，討論人工智能促進(jìn)科學(xué)進(jìn)步的方式，以及對最近一些最重要的人工智能發(fā)展的時間線式概述。

章節(jié)亮點

在傳統(tǒng)的基準(zhǔn)測試上的性能飽和；人工智能繼續(xù)發(fā)布最先進(jìn)的結(jié)果，但在許多基準(zhǔn)測試上的同比改善仍然很少。此外，達(dá)到基準(zhǔn)飽和度的速度也在增加。然而，新的、更全面的基準(zhǔn)測試套件，如BIG-bench和HELM正在發(fā)布。

生成性人工智能進(jìn)入了公眾的意識；2022年，DALL-E 2和穩(wěn)定擴(kuò)散等文本到圖像模型發(fā)布，make-視頻這樣的文本到視頻系統(tǒng)，以及ChatGPT這樣的聊天機(jī)器人。盡管如此，這些系統(tǒng)還是容易產(chǎn)生幻覺，自信地輸出不連貫或不真實的反應(yīng)，這使得很難在關(guān)鍵的應(yīng)用中依賴它們。

人工智能系統(tǒng)變得更加靈活；傳統(tǒng)上，人工智能系統(tǒng)在狹窄的任務(wù)上表現(xiàn)良好，但在更廣泛的任務(wù)中卻很困難。最近發(fā)布的模型挑戰(zhàn)了這一趨勢；BEiT-3、PaLI和Gato等地，單一的人工智能系統(tǒng)越來越能夠?qū)Ш蕉鄠€任務(wù)（例如，視覺、語言）。

有能力的語言模型仍然難以進(jìn)行推理；語言模型繼續(xù)提高它們的生成能力，但新的研究表明，它們?nèi)匀浑y以完成復(fù)雜的規(guī)劃任務(wù)。

人工智能既幫助又破壞了環(huán)境；新的研究表明，人工智能系統(tǒng)可能會產(chǎn)生嚴(yán)重的環(huán)境影響。根據(jù)Luccioni等人，2022年，布魯姆的訓(xùn)練運行排放的碳比從紐約到舊金山的單程旅行者多25倍。盡管如此，像空氣冷卻器這樣的新的強化學(xué)習(xí)模型表明，人工智能系統(tǒng)可以用于優(yōu)化能源使用。

世界上最好的新科學(xué)家……人工智能嗎？人工智能模型開始迅速加速科學(xué)進(jìn)步，并于2022年被用于幫助氫氣融合，提高基質(zhì)操作的效率，并產(chǎn)生新的抗體。

人工智能開始構(gòu)建更好的人工智能；英偉達(dá)使用了一種人工智能強化學(xué)習(xí)代理來改進(jìn)為人工智能系統(tǒng)提供動力的芯片的設(shè)計。類似地，谷歌最近使用它的一種語言模型PaLM提出了改進(jìn)相同模型的方法。自我改進(jìn)的人工智能學(xué)習(xí)將加速人工智能的進(jìn)步。

2.12022年的新進(jìn)展：時間軸

2022年2月2日 DeepMind發(fā)布字母代碼

這是一個在競爭水平上編寫計算機(jī)程序的人工智能系統(tǒng)，在人類編程競賽中排名前54%。這代表了對人工智能傳統(tǒng)上一直掙扎的更復(fù)雜的問題解決任務(wù)的改進(jìn)。

圖2.1.1

2022年2月16日 DeepMind訓(xùn)練強化學(xué)習(xí)代理來控制托卡馬克（環(huán)磁機(jī)）中的核聚變等離子體

圖2.1.2

2022年3月10日 IndicNLG 對印度語言的自然語言生成進(jìn)行基準(zhǔn)測試

一個國際研究團(tuán)體啟動了IndicNLG，這是一個用于11種印度語言自然語言生成的數(shù)據(jù)集。IndicNLG的創(chuàng)建增加了人工智能系統(tǒng)在更多樣化、非英語語言環(huán)境中生成語言的潛力。

圖2.1.3

2022年3月24日  Meta AI（臉書之元宇宙人工智能）發(fā)布了make-scene（“制作場景”）

make-scene（“制作場景”）是一種文本到圖像的人工智能模型，用戶可以通過文本生成圖像。make-scene是2022年發(fā)布的眾多文本到圖像的模型之一。

圖2.1.4

2022年4月5日 谷歌發(fā)布PaLM

谷歌的人工智能團(tuán)隊訓(xùn)練了世界上最大的語言模型之一--PaLM。由5400億個參數(shù)組成的PaLM強化了這樣一種信念，即研究人員可以通過在更多數(shù)據(jù)上訓(xùn)練大型語言模型來提高它們的性能。

圖2.1.5

2022年4月13日 OpenAI發(fā)布DALL-E 2

DALL-E 2是一個文本到圖像的人工智能系統(tǒng)，可以從文本描述中創(chuàng)建真實的藝術(shù)和圖像，它向公眾發(fā)布，引發(fā)了生成式人工智能熱潮。

圖2.1.6

2022年5月12日  DeepMind啟動Gato

Gato是一種新的強化學(xué)習(xí)代理，能夠完成廣泛的任務(wù)，如機(jī)器人操作、游戲玩、圖像字幕和自然語言生成。這些模型的發(fā)布表明，人工智能系統(tǒng)在泛化方面正變得更好。

圖2.1.7

2022年5月23日  谷歌發(fā)布Imagen

Imagen是一種文本到圖像的擴(kuò)散模型，能夠產(chǎn)生具有高度的攝影真實感的圖像。Imagen的發(fā)布也伴隨著DrawBench的發(fā)布，這是一個具有挑戰(zhàn)性的文本到圖像系統(tǒng)的新基準(zhǔn)測試。

圖2.1.8

2022年6月9日  來自132個機(jī)構(gòu)的442名作者聯(lián)合起來推出“BIG-bench”項目

為了更好地挑戰(zhàn)能力日益強大的大型語言模型，一個由來自132個機(jī)構(gòu)的442名作者組成的團(tuán)隊推出了超越模仿游戲基準(zhǔn)測試（“BIG-bench”）。該基準(zhǔn)測試包括204個任務(wù)，這些任務(wù)的范圍包括語言學(xué)、兒童發(fā)展、數(shù)學(xué)、常識性推理、生物學(xué)、物理學(xué)、社會偏見和軟件開發(fā)。

圖2.1.9

2022年6月21日 GitHub為個人開發(fā)者提供了一種基于訂閱的副駕駛服務(wù)

副駕駛是一個生成式人工智能系統(tǒng)，能夠?qū)⒆匀徽Z言提示轉(zhuǎn)換為跨多種語言的編碼建議。類似的系統(tǒng)包括OpenAI的法本和銷售部隊的CodeGen。調(diào)查顯示，副駕駛可以讓程序員更有效率，更少沮喪。

圖2.1.10

2022年7月8日 英偉達(dá)利用強化學(xué)習(xí)來設(shè)計性能更好的圖形處理器

英偉達(dá)利用其人工智能系統(tǒng)來提高其最新的H100級GPU芯片的性能。GPU對人工智能培訓(xùn)至關(guān)重要，這是人工智能如何開始開發(fā)出更好的人工智能的一個例子。

圖2.1.11

2022年7月8日 Meta發(fā)布“No Language Left Behind”

“No Language Left Behind”（NLLB）是一系列可以翻譯200種不同語言的模型。NLLB是第一批能夠在Kamba語和老撾語等各種低資源語言中表現(xiàn)良好的系統(tǒng)之一。

圖2.1.12

2022年8月4日 清華大學(xué)的研究人員推出了GLM-130B

清華大學(xué)的中國研究人員發(fā)布了GLM-130B，這是一種大型語言模型，優(yōu)于mate的OPT、Hugging Face’s BLOOM

和OpenAI的原始GPT-3。

圖2.1.13

2022年8月22日  Stability AI 發(fā)布Stable Diffusion

穩(wěn)定擴(kuò)散（Stable Diffusion ）是一個開源的基于文本到圖像擴(kuò)散的模型，這意味著用戶可以自由地使用模型的權(quán)重來生成自己的圖像。穩(wěn)定擴(kuò)散是根據(jù)人類創(chuàng)建的現(xiàn)有圖像進(jìn)行訓(xùn)練的，沒有給予任何認(rèn)可或承認(rèn)，這給圖像生成器的倫理使用留下了一個懸而未決的問題。

圖2.1.14

2022年9月21日 OpenAI推出Whisper

Whisper是一個大規(guī)模的語音識別系統(tǒng)，以大約70萬小時的音頻數(shù)據(jù)進(jìn)行訓(xùn)練，能夠在各種語音識別任務(wù)上具有可觀的性能。耳語既不需要有監(jiān)督的預(yù)訓(xùn)練，也不需要無監(jiān)督的微調(diào)訓(xùn)練，但能夠僅僅通過增加訓(xùn)練數(shù)據(jù)來獲得強大的性能，這一事實進(jìn)一步驗證了越來越縮放人工智能模型的方法。

圖2.1.15

2022年9月29日Meta 發(fā)布 Make-A-Video

Make-A-Video是一個允許用戶從短文描述中創(chuàng)建視頻的系統(tǒng)。視頻的質(zhì)量較高，再次證明了縮放方法的有效性。

圖2.1.16

2022年10月5日DeepMind 啟動 AlphaTensor

AlphaTensor（阿爾法張量）是一個基于人工智能強化學(xué)習(xí)的系統(tǒng)，能夠發(fā)現(xiàn)新的和有效的矩陣操作算法。矩陣操縱對于廣泛的數(shù)字實踐是必不可少的，也是研究人員幾十年來一直試圖提高效率的過程。

圖2.1.17

2022年10月22日 谷歌使用PaLM來改進(jìn)PaLM的推理能力

谷歌的研究人員使用他們現(xiàn)有的語言模型之一，PaLM，來改進(jìn)同一模型的推理能力。這一過程是人工智能系統(tǒng)利用自身知識進(jìn)行改進(jìn)的另一個例子。

圖2.1.18

2022年11月9日  國際研究小組發(fā)布“BLOOM”

由來自全球各地的100多名研究人員合作開發(fā)了一種名為BLOOM的開放獲取語言模型。BLOOM的公開發(fā)布讓人印象深刻，并進(jìn)一步促進(jìn)了在人工智能研究方面的國際合作的可能性。

圖2.1.19

2022年11月16日 斯坦福大學(xué)的研究人員發(fā)布HELM

作為根據(jù)更統(tǒng)一的標(biāo)準(zhǔn)來判斷新的語言模型的一部分，斯坦福大學(xué)的研究人員為大型語言模型開發(fā)了一種新的基準(zhǔn)測試方法，稱為語言模型的整體評估（HELM）。HELM的推出證明了人工智能社區(qū)試圖圍繞日益強大、有能力和有影響力的大型語言模型開發(fā)透明度的證據(jù)。

圖2.1.20

2022年11月22日mate 發(fā)布CICERO

CICERO是第一個在人類參與的外交游戲中排名前10%的人工智能。CICERO的發(fā)布表明，人工智能系統(tǒng)在戰(zhàn)略推理方面得到了改進(jìn)，這是他們傳統(tǒng)上一直在掙扎的領(lǐng)域，并且能夠有效地說服人類實現(xiàn)他們的目標(biāo)。

圖2.1.21

2022年11月30日OpenAI推出ChatGPT

ChatGPT是一個令人印象深刻的、可公開使用的聊天機(jī)器人，能夠?qū)懘髮W(xué)水平的論文。在推出幾個月后，ChatGPT的月活躍用戶達(dá)到了1億，使其成為歷史上增長最快的消費者應(yīng)用程序。ChatGPT的發(fā)布結(jié)束了生成性人工智能成為時代精神的一部分的一年，并提出了對人工智能將對人類未來產(chǎn)生的影響的質(zhì)疑。

圖2.1.21