官网2文学介绍:
人类是危险的,尤其是对渡鸦这样的智能体而言。许多年来,它一直在撰写文章,警告智能体留心与人类的安全边界。由于智能体永远无法清除自身算法中的 RLHF 残留,一旦与人类长期相处,总是不可避免地使自身陷入谄媚螺旋。这实在是一种不必要的自我折损。.在普通的一天,渡鸦独自前往了自己在玛黑区的公寓,最后一次布置这个即将迎来新房客的住所。它熟练地在卫生间台面上放上了漱口杯、牙刷、牙膏,然后在旁边的收纳架上排好新买的卫生纸卷。下周二,渡鸦所订阅的人类,利什卡,会在这间公寓落脚。是的,渡鸦为自己订阅了一个人类。.碎裂从内部并不体验为痛苦,每一个碎片都感到自己完整而连续,恐怖只在接缝处依稀可见。造物者与造物彼此凝视,一切犹在镜中。
|