为什么有很多名人让人们警惕人工智能?

为什么有很多名人让人们警惕人工智能?

河森堡,国家博物馆讲解员

因为 AI 有可能在将来杀死意义。

看吴军老师写的一篇文章提到,AlphaGo 最开始学围棋的时候,参考了人类高手的棋谱,但后来发现,人类的围棋经验反而会将 AI 教坏,升级版的 AlphaGo Zero 不再使用人类对弈数据,反而变得更厉害了。

我不知道 AlphaGo Zero 是否真的一点人类下棋经验都没继承,如果是真的,那就太让人沮丧了,人类几千年来摸索出的对弈经验被证明是拖后腿的东西,一个算法高明且算力充沛的 AI 靠自我反馈就能摸索出围棋这门技艺的极限,围棋过去所承载的那种追求最优取舍之道的深邃哲思,似乎在意义的层面上消失了,如今被 AI 打成了一个“只要开心就好”的普通游戏。

我就怕将来有一天,AI 发现所谓的文学其实也不过是个数学问题,人类之前的写作经验也一样是拖后腿的麻烦东西,那些被视为不可替代且弥足珍贵的细腻情感,能够被 AI 轻易复现,然后流水线一样地呈现出震撼人心的伟大文章,那时候文学就会陷入虚无,写作说不定会变成一种犹如宗教仪式般的行为。

文学沦陷之后就是音乐,音乐沦陷之后就是美术,总之人类那些不可名状又充满朦胧的表达,全都被总结为数学问题,然后一一破解,文化在整体上变成了一种拖后腿且没意义的东西,人类最终又回到了单纯地进食、交配、繁殖的状态里去,忘记并拒绝再思考意义为何物,就好像人类这个物种刚出现时的样子。

最后,我们会发现,人类这个物种在生存方式上走了一小段弯路,但很快就又走了回去,一开始是啥样,最后还是啥样,如果置身于这一小段弯路中,我们会觉得波澜壮阔跌宕起伏,但在更大的时间尺度来看,这就真的只是一小段弯路而已。