焦點播報:人工智能概念狂飆，網(wǎng)絡安全企業(yè)該如何理智應對？

來源：互聯(lián)網(wǎng)
最近，兩個人工智能系統(tǒng)徹底火出了圈，成為許多網(wǎng)友熱議的焦點。

一個是冷酷無情的“幕后主角”MOSS，一個是多才多藝的“全能網(wǎng)友”ChatGPT。

MOSS與ChatGPT

科幻電影《流浪地球2》中的面試環(huán)節(jié)令人印象深刻。


【資料圖】

演員吳京飾演的劉培強面試空間站航天員以獲取讓家人進入地下城避難的資格，面試他的不是人而是經過多重迭代、具備自我意識的人工智能系統(tǒng)MOSS（電影中也稱“550W”）。

當一個紅點攝像頭對著劉培強輕輕一掃，他的家庭情況和艱難選擇，連同其妻子的生命剩余天數(shù)都算得一清二楚，甚至還為劉培強提供了所謂的“最佳選擇”。面試中，MOSS冷靜且尖銳的提問，理智而迅速的反應，一度讓劉培強情緒崩潰，觀眾也為他捏了一把汗。

而最近火熱的ChatGPT，是OpenAI公司于2022年推出的一款自然語言驅動的智能聊天機器人，由于其設計架構基于超大規(guī)模預訓練自然語言模型GPT，學習了海量人類自然語言文本數(shù)據(jù)，它不僅能夠通過學習和理解人類的語言來進行對話，還能根據(jù)聊天的上下文進行互動，并協(xié)助人類完成一系列任務。

這款AI語言模型，讓撰寫郵件、論文、腳本，制定商業(yè)提案，創(chuàng)作詩歌、故事，甚至敲代碼、檢查程序錯誤都變得易如反掌。

不少和ChatGPT“聊過天”的網(wǎng)友紛紛感嘆，“只有你想不到，沒有ChatGPT辦不成的”。上線僅2個月，ChatGPT的活躍用戶就突破一億，成為了歷史上用戶增長最快的消費者應用程序。

技術發(fā)展引“狂喜”

ChatGPT等此類生成式AI將繁瑣和耗時的任務進行自動化生產，人類被解放出來專注于更關鍵的任務。它還可以產生原創(chuàng)內容和想法，并幫助研究和開發(fā)新產品和服務。

人工智能的出色表現(xiàn)，對于許多企業(yè)和個人來說極具吸引力。AI面試、AI聊天、AI繪畫……AIGC（利用人工智能技術生成內容）作為工具在工作生活、工作中應用趨于高效且日益廣泛。

作為網(wǎng)絡空間安全與社會治理領域國家隊、國投集團數(shù)字經濟板塊重要企業(yè)，美亞柏科的AI研發(fā)團隊從2019年開始，就已經采用“超大規(guī)模預訓練模型+下游任務遷移”的技術方案，利用公司自身的自然語言處理技術，在NLP、OCR、計算機視覺和人工智能安全等多個領域開展人工智能分析方面的業(yè)務實踐，基于在電子數(shù)據(jù)取證和執(zhí)法部門大數(shù)據(jù)智能化領域多年的深耕和知識經驗的積累，對行業(yè)客戶數(shù)據(jù)特點和業(yè)務需求的深刻理解，提出了文本智能分析理解、不良多媒體文件分析、反詐騙信息鑒別、多模態(tài)信息檢索等多個獨有的核心算法模型，廣泛應用到公司輿情檢測、大數(shù)據(jù)情報分析和電子數(shù)據(jù)取證類產品中。

美亞柏科將在國家相關規(guī)定下合理利用生成式AI技術，將ChatGPT類技術融入各類產品和項目中，提升公司已有產品在文本理解分析，不良信息處置，多模態(tài)數(shù)據(jù)檢索，案件支持知識庫智能化、大數(shù)據(jù)智能化和取證產品智能化方面的核心競爭力，進一步提升公司在對各類生成偽造圖像視頻、文本內容的發(fā)現(xiàn)識別和鑒定相關產品的技術能力，全面提升美亞柏科全產品體系智能化交互，智能問答的能力。

目前，在客戶服務方面，美亞柏科已經將ChatGPT的相關技術應用到產品售后支持部門，基于取證產品知識庫，研發(fā)智能客服機器人系統(tǒng)，提升服務效率，有效節(jié)約售后支持的成本。

技術狂飆需“冷靜”

在人工智能向社會生活的各個領域滲透之時，其安全的負面風險持續(xù)加劇且產生實質危害，通過深度合成和生成式AI技術制造虛擬音視頻圖像進行誣陷、誹謗、詐騙、勒索等違法行為已屢見不鮮。

此外，深度合成和生成式AI技術一旦被濫用，將會造成巨大的安全風險與實質性危害，給個人、企業(yè)造成肖像、名譽等人格和財產權益損害，也可能給社會秩序、國家政治穩(wěn)定和安全造成巨大威脅。

在法律層面，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》（以下簡稱《規(guī)定》）并于2023年1月10日起正式施行。《規(guī)定》通過系統(tǒng)性、創(chuàng)新性制度設計，回應了對深度合成服務的管理要求，為互聯(lián)網(wǎng)信息服務深度合成的規(guī)范發(fā)展提供了基本遵循和合法依據(jù)。

阻止AI濫用，防止AI作惡，也需發(fā)揮技術能力，用“魔法”打敗“魔法”。美亞柏科自2017年便深度開展人工智能技術研究。為了應對利用人工智能技術可能帶來的安全問題，于2019年特別針對深度合成技術成立專項研究團隊（下稱“專項團隊”）。

專項團隊通過對深度合成和生成式AI技術的深入研究以及在人工智能安全方向的經驗積累，自主研發(fā)深度偽造視頻圖像檢測鑒定的核心引擎，打造出一系列視頻圖像檢測鑒定的一體化智能裝備“AI-3300慧眼視頻圖像鑒真工作站”等。

AI-3300"慧眼"視頻圖像鑒真工作站是一款以人工智能技術為核心的視頻圖像檢驗鑒定設備，配備了美亞柏科人工智能團隊自主研發(fā)的核心AI智能檢測引擎，支持當前絕大部分深偽視頻圖像篡改方法的檢測，檢測精度處于國內領先水平，可為公安、司法行業(yè)及相關領域的技術人員和影像鑒定人員提供一站式影像真?zhèn)螜z驗鑒定解決方案。

未來，美亞柏科還將持續(xù)鉆研，在立足自身研發(fā)實力、豐富實戰(zhàn)經驗發(fā)揮人工智能作用的同時，也將針對生成式AI技術、人工智能安全等問題，不斷打磨推出更為安全、可信、可靠的人工智能技術產品，迎接新挑戰(zhàn)，為推動、維護和保障人工智能的安全發(fā)展貢獻力量！

標簽： 人工智能 美亞柏科 人工智能技術 自然語言

推薦

財富更多》

動態(tài)更多》

熱點