刘劼:期待、害怕人工智能知道如何探索世界

2023/03/29

    他表示,分析式的人工智能和生成式的人工智能是两个阶段。第一步是“你知道你知道什么”,这是分析式的东西。“你把人的东西教给它,你已经知道这件事,知道这个判断,一个人脸也好,图象也好,你怎么识别,你把这个事教给机器。”

  第二步是“你不知道你知道这件事”。“生成式人工智能在给我们做这件事情,你不知道你现在所有的知识能够引发出更新的知识来,你不知道它会给你一个什么回答。”我们为什么惊艳ChatGPT?他表示,是因为它回答出来的东西让我们觉得是我们应该知道但是是我们不知道的东西。

  后面会是什么?他分析可能会产生所谓探索式的人工智能,就是“你知道这个事你不知道”。他说:“实际上人类的探索是永无止境的,我们知道我们对宇宙不了解,我们知道我们对大脑不了解,所以我们要去探索。”

  为什么会有智能这个事情?他举了一个生物学的例子,大脑是怎么来的?有一种很简单的生物叫海鞘,小的时候是在水里游,找到一个合适的石头就固定在那里,过滤海水为生,有点像海葵。小的时候是有大脑的,判断这个环境找到石头,一旦着床在石头以后就把自己的大脑给消化了。从这个例子上看出,大脑产生最初的原因是探索。现在的人工智能,终究还是对已知知识的整理和在已知知识的基础上去衍生出新的知识。“下一步或者未来,我期待或者害怕人工智能会知道怎么去探索,这样它可以自己生成知识,生成对这个世界的认识,这是硅基智能跟碳基智能的一个并跑,碳基智能现在在探索,硅基智能还不会探索。那时候可能不叫GPT了,一个什么新的模型会使人工智能或者是硅基的智能有探索的能力,将来可能会带来更大的变革”,他说。

关闭