微信号
15618884964
如果AIGC发生风险,这将是人类历史上面临的一次非传统安全的最大的挑战。
“如果AIGC一定会成为一个未来,一个有确定性但带有风险亟待治理的未来,与它对抗的事业也一定会成为这个未来的一部分。”
在3月31日,由复旦大学管理学院与上海长三角商业创新研究院联合主办的“长三角聚劲科创大赛”上,复旦大学大数据研究院教授赵星谈到ChatGPT爆火之后,对创业者方向的建议,这个“对抗AIGC”的观点也引起了观众席自发的掌声。
赵星认为,对于AIGC这种方向,如果正面去和顶尖科技企业竞争ChatGPT这种类型的产品是很难的,但是有一件事情是绝对有确定性的,去对抗它。
“例如现在美国已经有团队在做的事情是,在可以用AIGC生成论文的前提下,制作工具专门用来检测论文是不是用AIGC生产的。”在当下论文抄袭检测都有数十亿产值的背景下,对抗AIGC也能成为未来商业可能性的一部分。
以ChatGPT为代表的AIGC在产业上是有确定性的,赵星认为,领域内已经很久没有这样一个确定性的赛道,这也是为什么这一轮大家如此热切的原因。从产业的角度来看,它的确定性让人期待,但是从治理角度来讲,它的不确定性也同样让人不安。
目前以马斯克为代表,聚集了一批美国科技和社会精英,正在呼吁暂停大型人工智能研究。3月22日,非营利组织生命未来研究所(Future of Life)向全社会发布公开联名信,呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为6个月。
联名信中写道“只有在我们确信它们的效果是积极的,风险是可控的情况下,才应该开发强大的人工智能系统。”这封信由由1000多人联名,其中包括马斯克、stability ai的首席执行官emad mostaque、谷歌旗下deepmind的研究人员等。
AIGC这一轮人工智能,连有可能发生什么风险都不清楚,这是整个人类社会没有办法承受的。“我们既不知道它科学运行的原理,也不知道它可能产生风险的方向在哪里,当风险发生的时候,人类有没有力量去阻止它?”
赵星认为,如果AIGC发生风险,这将是人类历史上面临的一次非传统安全的最大的挑战,而这也是前沿科技创业可以做的部分。
除此之外,对于AIGC创业方向赵星在现场也给出了一些建议,他认为美国目前的技术路线并不代表这个领域终局,美国科技界正在很努力去突破一些瓶颈,例如希望能够用很小的数据集去完成跟OpenAI ChatGPT一样的训练效果,如果能够达成,整个商业逻辑会有变化。
此外关于多模态数据的使用也是一个创业方向,现在很多行业人士认为在文本上很难和ChatGPT竞争,所以考虑能在多模态数据上超越它,如果成功,这种变化会导致整个产业格局的变化,这也会影响现在创业方向的选择,赵星表示。
“在业界一直有一句话,对前沿领域的大爆发,我们通常会高估它短期的影响,但是低估它中长期的影响。”赵星提到,对于元宇宙、对于AIGC,都存在这样的现象,建议创业者们要深度观察。
微信号
15618884964