Google DeepMind 和 Meta 的研究人員發表論文《Language Modeling Is Compression》，他們發現 DeepMind 的大語言模型 Chinchilla 70B 在圖像和音頻的無損壓縮上超過了 PNG 和 FLAC。alz28資訊網——每日最新資訊28at.com

論文提到，Chinchilla 70B 能將 ImageNet 圖像數據庫中的圖像無損壓縮到原始大小 43.4%，超過了 PNG 算法的 58.5%。alz28資訊網——每日最新資訊28at.com

Chinchilla 能將 LibriSpeech 音頻數據集中的樣本無損壓縮到原始大小 16.4%，超過 FLAC 算法的 30.3%。alz28資訊網——每日最新資訊28at.com

alz28資訊網——每日最新資訊28at.com

據介紹，Chinchilla 70B 主要是訓練用于處理文本，但它在壓縮其它類型的數據集上的效果也表現優異，甚至優于專門的算法。alz28資訊網——每日最新資訊28at.com

下面的例子比較了 gzip 和 Chinchilla 在示例文本上的生成效果。可以看到，gzip 的輸出沒有可讀性。alz28資訊網——每日最新資訊28at.com

alz28資訊網——每日最新資訊28at.com

本文鏈接：http://www.tebozhan.com/showinfo-26-12703-0.html大模型在無損壓縮方面超越 PNG 和 FLAC

聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： 面試中如何答好：AQS

下一篇： 越來越多開源項目停更，Java 生態受影響最大