说完机遇,咱们也得现实一点,看看 Fellou 在报告中指出的挑战有哪些。报告里用雷达图形象地展示了这些挑战,发现最突出的问题就是数据隐私和结果的可靠性。其次还有伦理问题、学习曲线、技术复杂性,以及成本投入。隐私问题咱们都懂,尤其医学、生物这些敏感领域,数据安全尤其重要。而结果的可靠性,其实主要取决于最终使用 AI 工具的人是否够谨慎。
报告特别指出 AI 系统可能会出现「幻觉」问题,也就是生成一些看似真实、但实际是虚构或错误的内容,这在科研领域可是大忌,稍不注意可能就引发严重后果。
报告还引用了一位博主的提醒:「AI 虽好,但思考主权不能丢。」
我个人觉得这句话特别值得咱们深思。毕竟科研还是要靠人类的创造性思维,AI 目前主要还是帮咱们处理繁琐枯燥的任务。如果什么都依赖 AI,科研人员自身的价值又该在哪里体现呢?
一开始我看到文献 5,就不由自主想要划过去 —— 在 AI 时代,两年前的内容,可能与今天的技术环境之间差异巨大,价值较低。但是我实际打开才发现,这是知乎上两年前提出的问题,但是回答却是新鲜出炉的。
如果不点开查看,真的有可能因为「时效性」的偏见,错过有价值的回答。
使用 Fellou 研究报告的时候,你或许也需要注意这一点。