博客 · 伦理
数字人克隆:同意、披露,以及我们不会跨越的界线
声音克隆、面孔克隆和 AI 人设带来艰难的问题。Huzro 如何构建代表,而不是冒充。
“数字人克隆”可以指很多事:复制某人的声音、生成他的面孔,或训练 AI 模仿他的写作方式。技术已经存在,也很容易被滥用。
克隆的问题
未经同意的克隆可能被用来欺骗:冒充亲属要钱的假电话、某人说了从未说过的话的视频、未经允许以逝者名义说话的聊天机器人。这些伤害是真实的。
是代表,不是冒充
Huzro 在代表与冒充之间划出清晰的界线。
- 代表由本人在同意的前提下,用其选择分享的内容构建。
- 代表始终披露自己是数字的。
- 代表绝不假装是在世的本人去欺骗任何人。
- 其真实性可以验证:Huzro Legacy 快照经过哈希、签名并链接,真正的代表可以与伪造品区分开来。
声音与风格
代表可以用某人的风格说话,因为那是他的一部分。但不能用这种风格欺骗别人,让人以为在与在世的本人交谈。
谁可以创建
只有本人在世时才能构建自己的 Huzro 代表。没有人能用随意抓取的数据为他人创建 Huzro 代表。
为什么对每个人都重要
随着克隆工具扩散,信任成为网络上最稀缺的东西。诚实说明自己是什么、在需要时可以验证的代表,是守护这份信任的方式之一。