隨著生成式人工智能的迅速發(fā)展，人們?cè)絹?lái)越關(guān)注 AI 生成內(nèi)容帶來(lái)的潛在風(fēng)險(xiǎn)。例如，人們可能會(huì)有意或無(wú)意地傳播 AI 生成的虛假信息。特別是在圖像生成領(lǐng)域，分辨 AI 生成的圖像和真實(shí)圖像顯得尤為重要。

　　一些研究嘗試用「加水印」的方法來(lái)分辨 AI 生成的內(nèi)容。ICML 2023 杰出論文《A Watermark for Large Language Models》就針對(duì)文本生成提出為模型的輸出添加水印。

　　現(xiàn)在，Google DeepMind 宣布針對(duì)圖像生成推出一種添加水印的工具 SynthID，以識(shí)別 AI 生成的圖像，目前 SynthID Beta 版已經(jīng)上線。谷歌 CEO Sundar Pichai 和 Google DeepMind CEO 都轉(zhuǎn)推介紹了 SynthID 工具。

圖片來(lái)自網(wǎng)絡(luò)/侵刪

　　SynthID 目前可以為谷歌的文生圖模型 Imagen 生成的圖像添加水印，并且在視覺(jué)上難以察覺(jué)。如下圖所示，有無(wú)水印的圖像看起來(lái)沒(méi)有區(qū)別。

　　通過(guò)掃描圖像中的數(shù)字水印，SynthID 可以評(píng)估圖像是由 Imagen 生成的可能性。

　　SynthID 不會(huì)影響圖像質(zhì)量，并且即使在添加濾鏡、更改顏色以及使用各種有損壓縮方案(例如 JPEG)進(jìn)行保存等修改之后，水印仍然可以被檢測(cè)到。

　　在 SynthID 使用兩種深度學(xué)習(xí)模型(用于水印和識(shí)別)，這兩種模型已在多個(gè)圖像集上一起進(jìn)行了訓(xùn)練，并針對(duì)一系列目標(biāo)進(jìn)行了優(yōu)化。

　　目前，部分用戶可以在谷歌的 Vertex AI 平臺(tái)上對(duì) Imagen 使用 SynthID 工具(Beta 版)。

　　值得注意的是，SynthID 并不能保證水印可以萬(wàn)無(wú)一失地抵御極端圖像處理，但它提供了一種有前途的技術(shù)方法，使人們能夠負(fù)責(zé)任地使用人工智能生成的內(nèi)容。研究團(tuán)隊(duì)表示之后可能還會(huì)面向音頻、視頻和文本等模態(tài)推出類(lèi)似的工具。
　　（邯鄲小程序）

蘋(píng)果 iPhone 15 / Pr...

最后一頁(yè)