(相关资料图)
【本文来自《几百名大佬联名给ChatGPT们踩刹车,AI到了失控边缘?!》评论区,标题为小编添加】
这两天也用了一下,感觉还行,但是里面的确有风险。
一是,他里面很多资料是有选择性的,但是面广。用多了后很多时候我们会刻板的认为他的回答是对的,但其实经常会被错误或者偏见误导。这就很讨厌了,需要我们认真审视每一个回答,并追问。
二是,目测他内部是允许同义词和上下文的,但这样,所谓的对AI的约束规则,大概率是没有什么用的。人会绕圈子,AI学会这个不要太容易。
三是,常识这个东西就更极端了,加上它会在与人交互中喂进很多完全不可控的信息。失控是大概率事件。
我们自己研究如何做到某些AI是有必要,但是研究如何绝对不失控,也是很有非常必要的。
毕竟人生苦短,AI可以与几百万人日夜交流,不知疲倦的获取大量信息,而大量交互沉淀下来的东西却可以永远传下去,它的这种无限制进化,是真正让人心生凉意的。
关键词: