黄俊杰 | 人工智能发展中的关心、好奇、害怕、讨厌和不确定的偶然因素

采访里,黄俊杰讲了很多关于人工智能的发展中他讨厌的事情。讨厌、害怕、关心、好奇—在他的回答里,这四个词常常一起出现。伴随其后的,还有题目里的最后一个词组“不确定的偶然因素”。以及,我们问他,如果有这样一个填空题,人工智能是什么。他会怎么填。“人工智能打着谁的商标?”他非常迅速地把这个填空题也填成了一个问句。

黄俊杰 | 人工智能发展中的关心、好奇、害怕、讨厌和不确定的偶然因素

黄俊杰(黄俊杰 参与创办爱范儿,曾任《第一财经周刊》主笔、

《好奇心日报》联合创始人兼联合主编,现任《晚点 LatePost》主编、联合创始人。)

采访里,黄俊杰讲了很多关于人工智能的发展中他讨厌的事情。讨厌、害怕、关心、好奇—在他的回答里,这四个词常常一起出现。伴随其后的,还有题目里的最后一个词组“不确定的偶然因素”。以及,我们问他,如果有这样一个填空题,人工智能是什么。他会怎么填。“人工智能打着谁的商标?”他非常迅速地把这个填空题也填成了一个问句。

一个人在职业上怎么有机会变成一个更独特的人?这些计算机推动的自动化的系统都在有效地帮助公司消解一些原来需要依赖人的简单工作,而且它的速度很快。有可能最后变成,一个职业上在初级阶段的人,要去跟一个效率极高的系统去竞争。这是一个很有“意思”的事情。

黄俊杰 | 人工智能发展中的关心、好奇、害怕、讨厌和不确定的偶然因素

黄俊杰

Q&A:

关于人工智能你关心的是什么?

黄俊杰:我觉得大家在讨论人工智能的时候,尤其是和ChatGPT 相关的东西,这里面有一个非常严重的问题,我不太想用抄袭这个词,但是它确实是类似这样的行为。

我们举例子的话。比如,在英文世界里产生了一个新的词、一个新的概念,翻译软件是没有办法把它翻译出来的。一定是有个人做出了这个翻译。你见到的任何一个其他翻译软件都是这样。它就是这么把它抓过来,让大家在使用这个工具的时候被自动调用出来。但是这个背后的贡献者是谁,你不知道。

翻译只是一个小小的行业,大家也都没什么感知,但实际上这个行业已经非常糟糕了。我最早兼职做过几年翻译,翻译过新闻,也翻译一些跟商业相关的东西。我大概理解翻译的工作是什么样的。译者要去理解一些东西,也得找别人的翻译来参考。这个借鉴过程是不可避免的。这发生在人身上,是一个很慢的过程,但是当 AI 被用于翻译软件,一切就加快了,变成在输入框里面粘贴一下,结果就到我面前了。它看起来是一个非常友好的光标,但对我来说背后的所有的东西都是隐形的。

翻译只是一个行业,但 GPT-4 有希望影响各种行业。

以前我们都用搜索引擎。搜索引擎最早其实很笨,它不会直接告诉你答案。当你搜索之后,它让你去别人的地方去获得信息,获得服务,对方获得流量。在之后的发展里,流量越来越集中到一个地方、信息来源越来越模糊。包括很多人喜欢的维基百科。它把所有的信息组合在一个页面里面。虽然有各种长链接告诉你这东西最早来自于什么地方,但当一个维基百科词条呈现在一个读者面前的时候,你不太关心这个信息是从哪里来的。它看上去就是一个真理一样的存在。它从全网各个地方搜罗来那些信息,那些小地方的流量被它吸走了,越来越少的人能去到那些地方。这其实是一个信息的集权。生产信息、把信息放到网上的人,得不到流量回报,这是在破坏整个互联网的激励机制。

维基百科影响力还小点,但是ChatGPT 就不是这样了,它变成了一个对话框。除非你特别去跟它说,我想要你推荐一些特定的网站,否则它就直接给答案。它像一个助理一样给你结果,背后的那些东西相对是隐形的。作为一个用户,作为一个获得信息的人,跟信息最初的来源,你们之间的关系变得更远了。

我觉得这是一个挺大的问题。到底这个信息是哪里来的,你现在是越来越不知道了,而且你越来越不想知道。

ChatGPT 的每个回答,其实都不是ChatGPT 想出来的,这里面的所有的信息、所有的风格,都是在某个地方、某个时间点由一个活生生的人写下,所以它有一天才会在你的需求下被ChatGPT 组织成一段文字给你。我觉得这是一个极大的不公平。就是每个人贡献的一些东西都被它打碎了,然后被吸到了整个体系里面,在需要的时候吐过来,这是一个极度地抹杀了创作者的“过程”。如果完全是AI 创造的没问题,但实际上它不创造东西。就是说,技术在越来越方便的同时,它把个体的形象变得越来越模糊。

黄俊杰 | 人工智能发展中的关心、好奇、害怕、讨厌和不确定的偶然因素

黄俊杰

关于人工智能,这是你比较害怕的点?

黄俊杰:这不叫害怕,就是讨厌的地方。

之前有一次跟一个中国移动地方公司的管理者聊天,他就抱怨说现在办公室的新人越来越笨。最早,运营商有大量自己的客服,他们一度有机会升到办公室里。这些人工作非常辛苦,上厕所都要按分钟记,但他们在这些非常枯燥的工作里面,磨练了一些沟通能力。后来这些工作被外包、被机器替代。

类似的还有比如说媒体最早都有很简短的快讯。一些非常重要的作家、新闻人都是从这些上面一步步过来的,比如盖伊·特立斯。

我真的害怕的是什么,就是简单的工作没有了。大家都觉得说你要有创意的能力,但你连最简单的训练都没有,怎么变成一个更熟练的能够去提出问题、能够去解决问题的人?

举一个美团的例子。当骑手接到一个单的时候,骑手会自己规划路径。不同的人,能力是不一样的。很厉害的骑手可以更快找到路,更快送货,也赚到更多钱。但是当厉害的骑手找到一条更快的路,跑了几次之后,这个路径就被系统学会了,成为默认的导航路径。好处是所有骑手都可以跟着捷径走,坏处就是人和人之间的能力差别被抹掉了。每个人的能力的高低不太重要了,就可以被随时替代了,他对工资的议价权也就没了。

我比较好奇的是接下来会怎么样。一个人在职业上怎么有机会变成一个更独特的人?这些计算机推动的自动化的系统都在有效地帮助公司消解一些原来需要依赖人的简单工作,而且它的速度很快。有可能最后变成,一个职业上在初级阶段的人,要去跟一个效率极高的系统去竞争。这是一个很有“意思”的事情。

而每个项目,如果它背后需要钱的话,它都不会是你个人或者小团队能做的事情,AI 成本很高。这就变成了有钱的公司去把人的能力给“沉淀”到一个系统上,然后再把它作为产品输出出去。最终这些能力不再属于一个个个体。我觉得这是一个不能让我害怕,但确实是一个有点让人厌恶的事情。另外我也很好奇它之后会变成什么样子。

而有什么能保证世界一定会往更好的方向再造呢?

尼尔·弗格森,是英国历史学家,他之前有一次对谈提到新冷战的可能。他说大家看历史,都觉得事情这样发生了,再来一遍似乎也会按照同样的路径走,但很多事情是由非常非常强烈的偶然因素所决定的。

我们今天回头想,过去几十年,美国跟苏联没有大打一仗,地球没有毁灭是一个事实。但是在这个过程里面,有无数的偶然因素导向了这个结果。再来一次,不保证类似的结果。

类似的,一百年前,工业化生产线来了,一度美国蓝领工人一周能打卡工作100 小时。后来在各种因素的影响下,人类找到了一个平衡,有了 8小时工作制。但没什么可以保证:“当这个社会被AI 改造了之后,它的变化一定是更好的。”因为有很多因素都可以影响结果。

监制:佟宇 / 统筹、编辑:李祺 / 采访、撰文:晏文静 / 摄影:付酉 / 妆发:Vivi / 摄影助理:蘇澤彬、六一