生成式AI時代，大模型數據安全如何保障？
在生成式AI（人工智能）時代，數據安全的出路可能會是“用魔法打敗魔法”，知識產權保護也可能要提前到token（字符串）層面。4月26日，在2024中關村論壇上，人工智能企業與學者就AI大模型的數據安全問題進行了討論。中關村論壇數據安全治理與發展論壇現場 澎湃新聞記者 秦盛 攝“在生成式人工智能時代，我們在數據安全層面，面臨的是不斷組合和創造新的數據安全風險的問題，徹底解決這種風險需要算法和工具的支撐，而不是靠人，或者靠靜態的方法去做相對固定的檢測。”清華大學計算機科學與技術系教授、人工智能研究院基礎模型研究中心副主任黃民烈如是說道。他認為，生成式人工智能可以通過訓練去組合，去生成新的內容，這些內容可能在過去的語料里根本沒出現過，但它依然是有害的。所以，即便把訓練數據處理得很干凈，在生成式人工智能時代依然會面臨有害內容產生的情況。要解決這些問題，需要進行算法研究，比如針對性對抗攻擊、自動紅隊，然后再加上安全和對齊手段，......閱讀全文
生成式AI時代，大模型數據安全如何保障？
在生成式AI（人工智能）時代，數據安全的出路可能會是“用魔法打敗魔法”，知識產權保護也可能要提前到token（字符串）層面。4月26日，在2024中關村論壇上，人工智能企業與學者就AI大模型的數據安全問題進行了討論。中關村論壇數據安全治理與發展論壇現場? 澎湃新聞記者 秦盛 攝“在生成式人工智能時代
用AI生成數據訓練AI或導致模型崩潰
科技日報北京7月25日電?（記者張夢然）《自然》24日正式發表的一篇研究論文指出了一個人工智能（AI）嚴重問題：用AI生成的數據集訓練未來幾代機器學習模型，可能會嚴重“污染”它們的輸出，這被稱為“模型崩潰”。研究顯示，原始內容會在9次迭代以后，變成不相關的“胡言亂語”（演示中一個建筑文本最終變成了野
用AI生成數據訓練AI或導致模型崩潰
《自然》24日正式發表的一篇研究論文指出了一個人工智能（AI）嚴重問題：用AI生成的數據集訓練未來幾代機器學習模型，可能會嚴重“污染”它們的輸出，這被稱為“模型崩潰”。研究顯示，原始內容會在9次迭代以后，變成不相關的“胡言亂語”（演示中一個建筑文本最終變成了野兔的名字），這凸顯出使用可靠數據訓練
AI大模型“拿捏”電池壽命
作為現代生活中不可或缺的能源載體，電池的重要性不言而喻。從清晨喚醒我們的鬧鐘，到隨身攜帶的手機、平板電腦等智能設備，無一不依賴于電池提供的穩定電力。此外，隨著科技的發展，電動汽車、無人機等新興領域也廣泛應用了各類高性能電池，推動了綠色出行和智能科技的進步。因此，電池不僅極大地便利了我們的日常生活，還
《自然》封面：以AI生成數據訓練AI，模型變傻？
大模型有許多“崩”的時候，但有一種崩潰叫做“自毀前程”——近日，《自然》發表在封面的一篇論文指出，用AI生成的數據集訓練未來幾代機器學習模型，可能會“污染”它們的輸出。這項由英國牛津大學、劍橋大學、帝國理工學院、加拿大多倫多大學等多所高校聯合開展的研究顯示，原始內容會在數代內變成不相關的“胡言亂語”
《自然》封面：以AI生成數據訓練AI，模型變傻？
大模型有許多“崩”的時候，但有一種崩潰叫做“自毀前程”—— 近日，《自然》發表在封面的一篇論文指出，用AI生成的數據集訓練未來幾代機器學習模型，可能會“污染”它們的輸出。這項由英國牛津大學、劍橋大學、帝國理工學院、加拿大多倫多大學等多所高校聯合開展的研究顯示，原始內容會在數代內變成不相關的“胡
3大遙感數據源接入“商湯地界”AI遙感大模型
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519533.shtm近日，商湯科技宣布攜手國內頭部遙感數據平臺“吉林一號網”、“四維地球”、“星圖地球”，升級了其“SenseEarth智能遙感云”平臺的數據源。用戶無需準備數據，即可通過“商湯地界”平臺
大模型讓全球“黑客”狂歡！AI安全向何處去？
對網絡安全而言，每一次新的信息技術浪潮都蘊含著巨大機會，同時也意味著巨大的挑戰。這是因為，新技術必然帶來新的安全問題和新的需求，而“黑客”往往能快一步利用新的漏洞并發起攻擊，“防守方”則需要更快的響應和改變。大模型技術亦如此。近日，在主題為“安全AI未來”的“C3安全大會·2024”上，亞信安全亞信
華為發布大模型時代AI存儲新品
原文地址：http://news.sciencenet.cn/htmlnews/2023/7/504751.shtm
AI大模型走出“泡沫期”未來何如
今年3月ChatGPT-4上線以來，國內科技龍頭企業密集推出人工智能大模型，百度“文心一言”、阿里云“通義千問”、華為“盤古”、360“智腦”、昆侖萬維“天工”、京東“靈犀”、科大訊飛“星火”、騰訊“混元”、商湯“日日新”等大模型先后登場，呈現百花齊放、迅猛發展的態勢。截至2023年10月初，國
AI大模型“源”煉造客服大腦
2018年至今，NLP領域經歷了非常大的變化，Transformer、ELMO、BERT、GPT-3，再到最近的ChatGPT（GPT 3.5的微調）的突破，NLP在預訓練大模型的暴力拆解路上越走越遠，這也讓各行業開始相信：很多之前無法做到的場景、效果，現在可以有新的解法和落地。 智能客服，是
用AI數據訓練AI可能最終導致崩潰
《自然》7月24日發表的一篇論文指出，用人工智能（AI）生成的數據集訓練未來幾代機器學習模型可能會污染它們的輸出，這個概念稱為“模型崩潰”（model collapse）。該研究顯示，原始內容會在數代內變成不相關的胡言亂語，顯示出使用可靠數據訓練AI模型的重要性。生成式AI工具越來越受歡迎，如大語言
用AI數據訓練AI可能最終導致崩潰
《自然》7月24日發表的一篇論文指出，用人工智能（AI）生成的數據集訓練未來幾代機器學習模型可能會污染它們的輸出，這個概念稱為“模型崩潰”（model collapse）。該研究顯示，原始內容會在數代內變成不相關的胡言亂語，顯示出使用可靠數據訓練AI模型的重要性。 生成式AI工具越來越受歡迎，
“達爾文”大模型發布－為生物領域打造AI大腦
7月4日，賽靈力聯合清華珠三角研究院、賽業生物、大灣區科創中心共同舉辦達爾文大模型發布會。達爾文大模型基于多元、多模態復雜數據和先進的人工智能技術，對生物領域的復雜系統建模和分析進行深入研究，為生物學產業、研究和應用發展提供有力支撐。達爾文提出進化論，闡述物種進化的基本原理，即適者生存。對應的，達爾
頂流AI大模型集結中關村科學城
6月14日上午，2024北京智源大會在中關村國家自主創新示范區展示中心開幕，大會現場具身智能機器人Galbot和國內主流大模型展覽區備受關注。 在展覽區，記者看到銀河通用首代具身智能機器人Galbot正忙著為嘉賓“送吃送喝”。收到指令后，Galbot自主導航到貨架，通過“視覺”鎖定貨架上的目標
頂流AI大模型集結中關村科學城
6月14日上午，2024北京智源大會在中關村國家自主創新示范區展示中心開幕，大會現場具身智能機器人Galbot和國內主流大模型展覽區備受關注。 在展覽區，記者看到銀河通用首代具身智能機器人Galbot正忙著為嘉賓“送吃送喝”。收到指令后，Galbot自主導航到貨架，通過“視覺”鎖定貨架上的目標
阿里云推出首個域名AI大模型應用
8月8日，在阿里云萬網煥新發布會上，阿里云宣布域名產品服務完成AI化系列改造，推出首個基于通義大模型的域名AI應用，并上線“.ai”等40余個全新的熱門域名后綴、2000萬個全球域名資源。域名是網站的地址，它就像現實生活中的門牌號，是互聯網穩定運行和持續發展的關鍵基礎資源。數據顯示，中國域名保有量3
劉聰：中國AI大模型也要走“直道沖鋒”之路
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498384.shtm
AI“模型崩潰”風險需警惕
從客戶服務到內容創作，人工智能（AI）影響了眾多領域的進展。但是，一個日益嚴重的被稱為“模型崩潰”的問題，可能會使AI的所有成就功虧一簣。“模型崩潰”是今年7月發表在英國《自然》雜志上的一篇研究論文指出的問題。它是指用AI生成的數據集訓練未來幾代機器學習模型，可能會嚴重“污染”它們的輸出。多家外媒報
AI語言模型“提速”藥物發現
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美國麻省理工學院和塔夫茨大學研究人員設計出一種基于大型語言模型（如ChatGPT）的人工智能算法，這種稱為ConPLex的新模型可將目標蛋白與潛在的藥物分子相匹配，而無需執行計算分子結
鄔賀銓院士：AI大模型仍需“大力出奇跡”
中國工程院院士鄔賀銓19日在2024北京人工智能生態大會上表示，人工智能是新質生產力的引擎，大模型的發展仍然需要“大力出奇跡”，多措并舉提升對物理世界的模擬能力。算力、數據等是促進人工智能發展的關鍵要素。隨著大模型的興起，市場上對算力的需求劇增，特別是在大模型的訓練環節，需要大型算力集群。鄔賀銓指出
2023AI遙感大模型產業峰會在武漢召開
原文地址：http://news.sciencenet.cn/htmlnews/2023/8/505922.shtm
上海AI實驗室發布書生通用大模型體系
如同人類的“五感”互相連通密不可分，人工智能的視覺、語言、音頻等模態間的邊界日漸融合，隨著人工智能感知、交互和生成能力的快速發展，多模態大模型正推動人工智能邁進“通感”時代。 上海人工智能實驗室（上海AI實驗室）于近日發布書生通用大模型體系，其中，書生·多模態包含200億參數，由80億海量多模
鵬城實驗室發布“鵬城·腦海”通用AI大模型
原文地址：http://news.sciencenet.cn/htmlnews/2023/9/509318.shtm近日，中國工程院院士、鵬城實驗室主任高文在2023華為全聯接大會上正式發布了“鵬城·腦海”（PengCheng Mind）通用AI大模型，以國產化基座大模型為新一代AI大模型發展構筑新
“大”以致用，百度開放文心大模型助陣AI大賽
4月16日，2021百度認知AI創意賽“AI創意派”決賽在京舉行（含線上）。在本期賽事中，百度開放了文心大模型中的知識增強百億參數大模型ERNIE 3.0的能力，選手可以近距離感受人工智能（AI）預訓練大模型（以下簡稱大模型）的魅力，并基于對ERNIE技術能力的理解產生全新的應用。這是業內首次將先進
AI大模型，智能汽車的下一個戰場？
ChatGPT走紅后，大模型的熱度持續不減，并日漸形成了“千模大戰”的局面。前兩個月，百度、阿里、騰訊加入；進入5月份，先有網易有道，發布了基于“子曰”大模型開發的AI口語老師劇透視頻，介紹其基于教育場景的類ChatGPT產品；后有科大訊飛，發布認知大模型“訊飛星火”……總之，各種大大小小的發布
2023AI遙感大模型產業峰會即將在武漢召開
原文地址：http://news.sciencenet.cn/htmlnews/2023/7/505131.shtm
李彥宏：中國的大模型太多，AI原生應用太少
原文地址：http://news.sciencenet.cn/htmlnews/2023/11/512462.shtm“中國的大模型很多，但是基于大模型開發出來的AI原生應用卻非常少。”11月15日，在與第25屆高交會同期舉辦的深圳2023西麗湖論壇上，百度創始人、董事長兼首席執行官李彥宏談及國內A
“AI+教育”，復旦推出大語言模型助力新生報到
8月25日，是復旦大學本科生新生報到的日子。來自全國各地和全球40多個國家的4300余名2024級本科新生，開啟了在復旦的求學生涯。新生報道現場。為幫助來自世界各地的新同學盡快融入復旦大學，學校基于大語言模型，推出“復旦迎新助手”智能Agent。作為新生的貼心小幫手，大語言模型為新同學在迎新階段提供
智譜AI發布國產大模型商業化案例合集
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519107.shtm熱議一年有余的人工智能（AI）大模型到底能幫人們做什么？3月14日，在智譜AI舉辦的一場小型媒體溝通會上，智譜AI首席執行官張鵬發布了智譜大模型商業化案例合集。該案例合集涵蓋了傳媒、咨