(資料圖片僅供參考)
本報上海8月15日電（記者沈文敏）近日，上海人工智能實驗室宣布聯(lián)合語料數(shù)據(jù)聯(lián)盟成員單位，共同開源發(fā)布“書生·萬卷”1.0多模態(tài)預訓練語料。
“書生·萬卷”1.0集合了語料數(shù)據(jù)聯(lián)盟成員豐富的內容積累與上海人工智能實驗室的數(shù)據(jù)處理能力等優(yōu)勢，將為學術界及產(chǎn)業(yè)界提供高質量大模型多模態(tài)預訓練語料。本次開源的數(shù)據(jù)總量超過2TB，具備多元融合、精細處理、價值對齊、易用高效等四大特征。
本次開源的“書生·萬卷”1.0包含文本、圖文、視頻三部分數(shù)據(jù)集。其中文本數(shù)據(jù)來自網(wǎng)頁、百科、書籍、專利、教材、考題等，數(shù)據(jù)總量超過5億個文檔，數(shù)據(jù)大小超過1TB，覆蓋科技、文學、媒體、教育、法律等多個領域；圖文數(shù)據(jù)主要來自公開網(wǎng)頁，經(jīng)處理后形成圖文交錯文檔，總量超過2200萬個，數(shù)據(jù)大小超過140GB（不含圖片），覆蓋新聞事件、人物、自然景觀、社會生活等多個領域；視頻數(shù)據(jù)主要來自中央廣播電視總臺和上海文廣集團，包含新聞、影視等多種類型的節(jié)目影像，總計視頻文件數(shù)超過1000個，數(shù)據(jù)大小超過900GB，內容覆蓋軍事、文藝、體育、自然、知識、影像藝術等方面。
《 人民日報 》（ 2023年08月16日 12 版）
關鍵詞：
有下列情形之一，妨害信用卡管理的，處三年以下有期徒刑或者拘役，并處
2023-08-16
Copyright © 2011-2020 亞洲資本網(wǎng) All Rights Reserved. 聯(lián)系網(wǎng)站：55 16 53 8 @qq.com
