隨著(zhù)生成式人工智能的迅速發(fā)展，人們越來(lái)越關(guān)注 AI 生成內容帶來(lái)的潛在風(fēng)險。例如，人們可能會(huì )有意或無(wú)意地傳播 AI 生成的虛假信息。特別是在圖像生成領(lǐng)域，分辨 AI 生成的圖像和真實(shí)圖像顯得尤為重要。

　　一些研究嘗試用「加水印」的方法來(lái)分辨 AI 生成的內容。ICML 2023 杰出論文《A Watermark for Large Language Models》就針對文本生成提出為模型的輸出添加水印。

　　現在，Google DeepMind 宣布針對圖像生成推出一種添加水印的工具 SynthID，以識別 AI 生成的圖像，目前 SynthID Beta 版已經(jīng)上線(xiàn)。谷歌 CEO Sundar Pichai 和 Google DeepMind CEO 都轉推介紹了 SynthID 工具。

圖片來(lái)自網(wǎng)絡(luò )/侵刪

　　SynthID 目前可以為谷歌的文生圖模型 Imagen 生成的圖像添加水印，并且在視覺(jué)上難以察覺(jué)。如下圖所示，有無(wú)水印的圖像看起來(lái)沒(méi)有區別。

　　通過(guò)掃描圖像中的數字水印，SynthID 可以評估圖像是由 Imagen 生成的可能性。

　　SynthID 不會(huì )影響圖像質(zhì)量，并且即使在添加濾鏡、更改顏色以及使用各種有損壓縮方案(例如 JPEG)進(jìn)行保存等修改之后，水印仍然可以被檢測到。

　　在 SynthID 使用兩種深度學(xué)習模型(用于水印和識別)，這兩種模型已在多個(gè)圖像集上一起進(jìn)行了訓練，并針對一系列目標進(jìn)行了優(yōu)化。

　　目前，部分用戶(hù)可以在谷歌的 Vertex AI 平臺上對 Imagen 使用 SynthID 工具(Beta 版)。

　　值得注意的是，SynthID 并不能保證水印可以萬(wàn)無(wú)一失地抵御極端圖像處理，但它提供了一種有前途的技術(shù)方法，使人們能夠負責任地使用人工智能生成的內容。研究團隊表示之后可能還會(huì )面向音頻、視頻和文本等模態(tài)推出類(lèi)似的工具。
　?。?a href="http://www.lsbmaoyi.com">邯鄲小程序）

蘋(píng)果 iPhone 15 / Pr...

最后一頁(yè)