AI前沿速報(bào)0610：智源研究院開源商用LLM

來源：AI前沿觀察

大家好，今天的速報(bào)為大家?guī)砹薃I在不同領(lǐng)域的前沿動(dòng)態(tài)。小鵬汽車宣布G6的預(yù)售價(jià)格，與特斯拉Model Y競(jìng)爭(zhēng)；中央美術(shù)學(xué)院畢業(yè)展上展出了AI藝術(shù)作品；清華大學(xué)開發(fā)了RLx2強(qiáng)化學(xué)習(xí)框架，訓(xùn)練成本降低95%。此外，還有AI專家在北京舉行的智源大會(huì)上討論大模型和多模態(tài)生成模型等話題。快來了解這些前沿的AI技術(shù)動(dòng)態(tài)吧！記得點(diǎn)贊、轉(zhuǎn)發(fā)哦！

1. 【小鵬汽車公布G6預(yù)售價(jià)，與特斯拉Model Y競(jìng)爭(zhēng)】


(資料圖片僅供參考)

小鵬汽車公布了G6車型的預(yù)售價(jià)，為人民幣萬元（約合萬美元），比特斯拉的Model Y便宜了萬元（約合6000美元）。G6是小鵬汽車新平臺(tái)的首款產(chǎn)品，擁有先進(jìn)的電動(dòng)汽車技術(shù)和智能駕駛功能。G6是一款純電動(dòng)中型SUV轎跑車型，續(xù)航里程可達(dá)755公里，極限時(shí)速為200公里。小鵬汽車將于6月29日正式發(fā)布G6，并于7月開始交付。小鵬汽車計(jì)劃在2023年第四季度每月銷售2萬輛G6。

2. 【中央美術(shù)學(xué)院畢業(yè)展展出AI藝術(shù)品】

中國(guó)的中央美術(shù)學(xué)院在2023年的畢業(yè)展上展示了由AI生成的藝術(shù)品，使用了更先進(jìn)的AI工具，如穩(wěn)定擴(kuò)散。展覽展示了藝術(shù)家創(chuàng)造力和AI生成能力的結(jié)合作品。一些畢業(yè)生表示需要專業(yè)的AI專家來完全實(shí)現(xiàn)涉及AI的畢業(yè)設(shè)計(jì)。

3. 【清華大學(xué)開發(fā)RLx2：強(qiáng)化學(xué)習(xí)框架訓(xùn)練成本降低95%】

清華大學(xué)黃隆波團(tuán)隊(duì)開發(fā)了RLx2，用于離線策略強(qiáng)化學(xué)習(xí)，實(shí)現(xiàn)了超過90%的稀疏度和最小化性能損失的全稀疏訓(xùn)練。該框架采用延遲多步TD目標(biāo)機(jī)制和動(dòng)態(tài)容量回放緩沖區(qū)，大多數(shù)環(huán)境中優(yōu)于基準(zhǔn)算法?？梢允褂贸∈杈W(wǎng)絡(luò)訓(xùn)練深度強(qiáng)化學(xué)習(xí)代理，無需預(yù)訓(xùn)練密集網(wǎng)絡(luò)，訓(xùn)練和推理浮點(diǎn)運(yùn)算分別降低了20倍和50倍。適用于各種離線策略強(qiáng)化學(xué)習(xí)算法，包括TD3和SAC。

4. 【2023北京智源會(huì)議：AI專家討論大型模型和多模態(tài)生成模型】

本次會(huì)議邀請(qǐng)了四位圖靈獎(jiǎng)得主和OpenAI創(chuàng)始人Sam Altman。會(huì)上發(fā)布了開源、商用的大型模型，包括Aquila語言模型系列、FlagEval語言評(píng)估系統(tǒng)和Vision模型系列。中國(guó)AI公司智源還發(fā)布了Aquila語言模型系列和FlagEval語言評(píng)估系統(tǒng)。會(huì)議聚焦于大型模型、多模態(tài)、生成模型、AI安全、倫理問題和風(fēng)險(xiǎn)預(yù)防等話題。

5. 【智源AI研究院發(fā)布悟道大型模型系列】

北京智源人工智能研究院發(fā)布了悟道，包括天鷹語言模型系列、FlagEval語言評(píng)估系統(tǒng)和Vision大型模型系列。悟道完全開源，支持商業(yè)許可協(xié)議。AquilaChat和AquilaCode-7B專為文本和代碼生成而設(shè)計(jì)。FlagEval為各種芯片和深度學(xué)習(xí)框架提供評(píng)估。智源專注于通過大型模型、類腦智能和具身智能來開發(fā)人工通用智能（AGI）。

6. 【GPT-4在排序算法優(yōu)化方面勝過DeepMind的AlphaDev】

據(jù)報(bào)道，GPT-4只用了兩個(gè)提示就找到了一種排序算法優(yōu)化方法，勝過了DeepMind的AlphaDev。Dimitris Papailiopoulos使用GPT-4完成了這項(xiàng)任務(wù)。AlphaDev使用強(qiáng)化學(xué)習(xí)來發(fā)現(xiàn)新算法，并因發(fā)現(xiàn)一種加速70%的排序算法而受到贊譽(yù)。GPT-4的表現(xiàn)令人驚訝，引發(fā)了對(duì)其訓(xùn)練數(shù)據(jù)的質(zhì)疑，同時(shí)也對(duì)AlphaDev在《自然》雜志上發(fā)表的文章提出了疑問。

7. 【必應(yīng)聊天機(jī)器人在桌面端推出語音模式】

微軟在Edge瀏覽器上推出了必應(yīng)的語音模式，用戶可以使用語音提問；聊天機(jī)器人支持英語、日語、法語、德語和普通話；微軟正在停止Windows上的Cortana，向用戶建議必應(yīng)和AI助手Copilot作為替代品。

8. 【Huggingface的OpenLLM排行榜上Falcon-40B和LLaMa-65B排名引發(fā)爭(zhēng)議】

阿聯(lián)酋技術(shù)創(chuàng)新研究院發(fā)布了Falcon-40B，超越了Huggingface的OpenLLM排行榜上的LLaMa-65B；Falcon-40B的許可協(xié)議引發(fā)爭(zhēng)議，因?yàn)樯虡I(yè)使用需要特殊許可費(fèi)和額外限制；由于LLaMa-65B的MMLU得分存在差異，對(duì)Huggingface的評(píng)估基準(zhǔn)產(chǎn)生了疑問；最近的評(píng)估表明，F(xiàn)alcon-40B可能并不比LLaMa-65B更好；研究人員對(duì)LLaMa和Falcon-40B之間的性能差距存在爭(zhēng)議；在實(shí)施語言模型的度量和基準(zhǔn)時(shí)，需要謹(jǐn)慎和徹底評(píng)估。

9. 【馬克·扎克伯格宣布將在Meta所有產(chǎn)品中整合AI技術(shù)】

馬克·扎克伯格宣布將在Meta的所有產(chǎn)品中整合AI技術(shù)，包括生產(chǎn)力助手Metamate和AI聊天機(jī)器人等。Meta一直面臨財(cái)務(wù)困境和批評(píng)，因?yàn)檫^于專注于元宇宙的野心。與此同時(shí)，競(jìng)爭(zhēng)對(duì)手谷歌、微軟和Snapchat的生成式AI產(chǎn)品受到投資者的關(guān)注。Meta正在探索開源模型，以推動(dòng)AI聊天機(jī)器人和技術(shù)的發(fā)展。AI和元宇宙仍將是該公司的重點(diǎn)領(lǐng)域。

10. 【人工智能概述及一些發(fā)展中的主流應(yīng)用】

人工智能是基于神經(jīng)網(wǎng)絡(luò)的軟件系統(tǒng)，能夠進(jìn)行語音和圖像識(shí)別、合成圖像和語音生成。它模仿人類智能，但應(yīng)用取決于其優(yōu)劣。強(qiáng)人工智能是一種強(qiáng)大的智能，可以像人類一樣學(xué)習(xí)和推理，但尚未被明確定義。人工智能領(lǐng)域的頂尖公司包括OpenAI、微軟、谷歌、Anthropic、Stability和Elon Musk。最近的發(fā)展包括Nvidia成為萬億美元公司、OpenAI的Sam Altman游說AI政策，以及Tiktok測(cè)試其自己的應(yīng)用內(nèi)AI稱為Tako。

11. 【一些不錯(cuò)的WordPress AI插件】

一些不錯(cuò)的WordPress AI插件，包括WP AI Assistant、Speaker、Voicer、WordLift、SEOPress、Akismet、AI Engine、Bertha AI、ContentBot、Tidio、GetGenie、Link Whisper、RankMath、CodeWP和Quttera Web Malware Scanner。用戶在選擇最適合自己需求的插件之前，應(yīng)該考慮每個(gè)插件的特點(diǎn)、優(yōu)點(diǎn)、缺點(diǎn)和成本。

12. 【MIT研究人員開發(fā)出類似于人類學(xué)習(xí)的多模態(tài)機(jī)器學(xué)習(xí)技術(shù)】

麻省理工學(xué)院、IBM沃森人工智能實(shí)驗(yàn)室和IBM研究機(jī)構(gòu)合作開發(fā)了一種名為對(duì)比音頻-視覺掩碼自編碼器（CAV-MAE）的新技術(shù)。CAV-MAE使用神經(jīng)網(wǎng)絡(luò)從音頻和視覺數(shù)據(jù)中提取和映射有意義的潛在表示。該技術(shù)結(jié)合了掩碼數(shù)據(jù)建模和對(duì)比學(xué)習(xí)，提高了自監(jiān)督音頻-視覺學(xué)習(xí)的效果，并在動(dòng)作識(shí)別、跨語言自動(dòng)語音識(shí)別和音視頻生成等方面具有潛在的應(yīng)用價(jià)值。

13. 【研究人員開發(fā)出基于LLM的密碼猜測(cè)模型PassGPT】

研究人員開發(fā)出了一種名為PassGPT的基于LLM的密碼猜測(cè)模型，該模型可以識(shí)別人類生成密碼的基本特征和線索，并比早期的深度生成模型猜測(cè)出更多未知密碼。該模型對(duì)于獨(dú)特的數(shù)據(jù)泄露也表現(xiàn)出強(qiáng)大的泛化能力，通過逐步采樣每個(gè)字符來引導(dǎo)密碼創(chuàng)建，并表示跨密碼的概率分布以提高強(qiáng)度估計(jì)器。

14. 【SpQR：近乎無損LLM權(quán)重壓縮的壓縮格式和量化技術(shù)】

研究人員引入了Sparse-Quantized Representation（SpQR）用于LLM壓縮，使預(yù)訓(xùn)練LLMs的壓縮幾乎無損，每個(gè)參數(shù)僅需3-4位。該技術(shù)定位異常權(quán)重，并使用小組大小的分組量化變體。在位時(shí)，可在單個(gè)24 GB消費(fèi)級(jí)GPU上運(yùn)行330億個(gè)參數(shù)的LLMs，無性能降級(jí)且速度提高15％。同時(shí)，開發(fā)了GPU推理算法，以獲得具有可比準(zhǔn)確性的更快推理速度。此外，該技術(shù)提供了超過4倍的內(nèi)存壓縮優(yōu)勢(shì)，適用于內(nèi)存有限的設(shè)備。

15. 【Meta展示AI技術(shù)，將應(yīng)用于WhatsApp、Messenger、Instagram和內(nèi)部使用】

Meta展示了新的生成式AI技術(shù)，將應(yīng)用于消費(fèi)產(chǎn)品和內(nèi)部使用。它宣布了Messenger和WhatsApp的AI聊天機(jī)器人、Instagram故事的AI貼紙和照片編輯工具，并正在嘗試使用AI來修改Instagram故事中的照片以提高用戶參與度。Meta計(jì)劃在Messenger和WhatsApp上發(fā)布AI代理，有可能擴(kuò)展到智能眼鏡。此外，Meta正在開發(fā)AI生產(chǎn)力助手和與由LLaMA提供支持的AI代理進(jìn)行交互的實(shí)驗(yàn)性界面。首批面向消費(fèi)者的工具將于今年推出，由于廣告支持業(yè)務(wù)，預(yù)計(jì)免費(fèi)。

16. 【生成式AI的一些相關(guān)公司發(fā)展】

AI公司Together正在建立一個(gè)AI虛擬助手平臺(tái)；Contextual AI正在開發(fā)一個(gè)能理解上下文和意圖的AI聊天機(jī)器人平臺(tái)；Instabase正在建立一個(gè)使用AI自動(dòng)化業(yè)務(wù)流程的平臺(tái)；Adept正在開發(fā)一個(gè)創(chuàng)建AI內(nèi)容的平臺(tái)；Cohere正在建立一個(gè)創(chuàng)建AI語言模型的平臺(tái)。

17. 【Teaser AI：新交友應(yīng)用程序?qū)⒂脩糇兂闪奶鞕C(jī)器人】

據(jù)報(bào)道，一款名為Teaser AI的新交友應(yīng)用程序已經(jīng)推出。該應(yīng)用程序基于用戶的回答和對(duì)話風(fēng)格來模擬用戶的個(gè)性。該應(yīng)用程序限制用戶與AI的來回消息為五條，同時(shí)最多匹配16個(gè)用戶。Teaser AI提供訂閱選項(xiàng)，每月美元，每周美元或三個(gè)月美元。該應(yīng)用程序的AI對(duì)話作為冰-breaker，旨在解決交友應(yīng)用程序中的鬼影問題。

18. 【蘋果發(fā)布Vision Pro AR頭戴式顯示器，評(píng)價(jià)褒貶不一】

蘋果在WWDC大會(huì)上發(fā)布了Vision Pro AR頭戴式顯示器，配備微型OLED屏幕和先進(jìn)的眼動(dòng)追蹤技術(shù)，售價(jià)為3500美元，研發(fā)歷時(shí)七年。早期測(cè)試者贊揚(yáng)了該設(shè)備，但批評(píng)其重量、缺乏觸覺反饋和短暫的電池壽命。Meta CEO馬克·扎克伯格駁斥了Vision Pro，稱其沒有取得重大突破。Meta即將推出的Quest 3頭戴式顯示器預(yù)計(jì)售價(jià)更為親民，為499美元。

19. 【建筑業(yè)中的3D重建技術(shù)：博世亞太研究與技術(shù)中心的見解】

博世亞太研究與技術(shù)中心分享了建筑業(yè)中的3D重建技術(shù)。該技術(shù)可以提高測(cè)量效率、降低成本、提供沉浸式體驗(yàn)，并確保建筑的安全和可持續(xù)性。此外，博世集團(tuán)推出了一項(xiàng)新的風(fēng)險(xiǎn)投資基金Grow，初始預(yù)算為2億歐元（億美元），專注于人工智能、物聯(lián)網(wǎng)和分布式賬本技術(shù)。博世還推出了一家新的子公司博世空間技術(shù)，專注于SLAM技術(shù)、激光雷達(dá)和全景成像。

感謝您的關(guān)注，AI前沿觀察將繼續(xù)為您帶來前沿、全面的人工智能資訊。請(qǐng)大家積極參與互動(dòng)，點(diǎn)贊、評(píng)論、轉(zhuǎn)發(fā)，讓更多人了解AI的前沿動(dòng)態(tài)。明天的速報(bào)，我們不見不散！

標(biāo)簽：

推薦

財(cái)富更多》

動(dòng)態(tài)更多》

熱點(diǎn)