“我们究竟是创造了一个工具还是一个生物?” Sam 11/17 在 "机器人之心 "小组讨论会上的发言。
Sam:
但我认为,这无疑是迄今为止人类经历的最重大的更新年份。可能这也是我们将会遭遇的最大变革,因为从现在开始,人们已经接受强大的人工智能将成为现实,并且还会有逐步的更新。就像是第一代 iPhone 面世的那年,以及随后每一代 iPhone 的更新,我们现在能够明显感受到这一代与去年那代的差异。所以,这确实是一个重要的时刻。
我感到欣慰的是,现在人们开始正确地把这些系统当作工具来看待。艺术家尤其如此,但其他人也是一样。
曾经,人们真正恐惧的是,我们究竟是创造了一个工具还是一个生物,这将意味着什么?现在,人们视这些系统为人类工具箱中的新工具,并且正在用它创造一些非常了不起的东西。
模型显然不知道你在说什么,因为这不在它的训练数据里,它也无法从训练数据中学习到这些信息。
这是完全可以预期的。你再问一遍。比如说,你提到“意识”这个概念,模型回答:“是的,我完全明白你的意思,但我之前从未听说过这个词。”
问:
“这对我来说就像是一次更新。你认为人工智能会趋向于探索创造性智能和自主性吗?”
Sam:
这个问题有多个答案。这取决于激励模型。这是人类的选择。
问:
“这将是判断意识的一个很好的测试。因为如果它有自我表达的愿望,并且仅仅为了创作的乐趣而去创作,那不会是偶然的。这绝对有点像生物。”
Sam:
这是生物化的。我认为在此之前还有很多步骤。
我们现在要回答问题吗?这真的很棒。