数据权力如何尊重用户权利(评论员观察)

6月9日，2023年北京智源大会顺利召开。作为人工智能领域综合性内行盛会，大会集结众多AI领域的探索者、实践者、以及关心智能科学的每个人，分享研究成果、交换实践经验、建立联系合作；百场精彩报告研讨，共同见证一场关于智能的惊叹演化！

6月10日全天为AI安全与对齐论坛。进入大模型时代，如何确保越发强大和通用的人工智能系统安全可控，符合人类意图和价值观，是极为重要的一个问题。这一安全问题又被称为人机对齐（AI alignment）问题，它代表了本世纪人类社会面临的最紧迫和最有意义的科学挑战之一。

现场盛况

论坛上「深度学习之父」Geoffrey Hinton、OpenAI创始人Sam Altman和张钹院士等14位国内外嘉宾围绕人机对齐、大模型的可拓展监督、人工智能的生存风险，以及其他人工智能安全相关的议题带来精彩报告。

OpenAI创始人Sam Altman

同时，与此次论坛议题高度契合的科学作家布莱恩·克里斯汀(Brian Christian)的最新作品--The Alignment Problem，中文版书名：《人机对齐》也在会上震撼发布！该书由湖南科学技术出版社引进出版，安远AI审校。安远AI创始人谢旻希主持了此次新书发布仪式。

《人机对齐》新书发布

安远AI创始人谢旻希

《人机对齐》

《人机对齐》作者Brian Christian应邀线上发言。在发言中，他首先向读者与与会嘉宾发来问候。对于新书《人机对齐》的发布他深表荣幸，并期望该书能为中国AI领域活跃且持续的探讨作出贡献。同时对《人机对齐》的主要内容做了简要介绍：全书共分为三篇，第一篇就当前影响机器学习系统的伦理和安全问题进行了探讨，第二篇名为自主，焦点从监督和自监督学习转移到强化学习，第三篇在监督学习、自监督学习、强化学习的基础上探讨我们如何在现实世界中对齐复杂的AI系统。希望《人机对齐》在国内的发布不仅对研究人员起到帮助，更能有助于我们把自己对于这个领域的热情传递给每一位非专业人士。最后他表示，期待看到本次大会的探讨以及中国AI领域的研究将如何促进人机对齐领域的全球发展。

作者Brian Christian线上发言

《人机对齐》

【美】布莱恩·克里斯汀著 ;唐璐译

出版社：湖南科学技术出版社

如今的“机器学习”系统已具备非凡能力，能够在各种场合代替我们看和听，并代表我们做决定。但是警钟已经敲响。随着机器学习飞速发展，人们的担忧也在与日俱增。如果我们训练的人工智能（AI）做的事情与我们真正的目的不符，就会引发潜在的风险和伦理问题。研究人员称之为对齐问题（the alignment problem）。

作者

Brian Christian

布莱恩·克里斯汀

畅销书作家布莱恩·克里斯汀用生动的笔调，清晰阐释了AI与我们息息相关的问题。在书中，我们将认识第一批积极应对对齐问题的学者，了解他们为了避免AI发展的局面失控，付出的卓绝努力和雄心勃勃的计划。克里斯汀不仅精练地描绘了机器学习的发展史，并且亲自深入科研一线同科学家对话，准确呈现了机器学习最前沿的进展。读者可以清晰认识到，对齐问题研究的成败，将对人类的未来产生决定性影响。

对齐问题还是一面镜子，将人类自身的偏见和盲点暴露出来，让我们看清自己从未阐明的假设和经常自相矛盾的目标。这是一部精彩纷呈的跨学科史诗，不仅审视了人类的科技，也审视了人类的文化，时而让人沮丧，时而又柳暗花明。

这本书在国外的出版反响热烈，被微软首席执行官萨蒂亚·纳德拉评为2021年最激励他的五本书之一，被《纽约时报》评为关于AI关键技术和道德问题的best书籍。如作者布莱恩·克里斯汀所言：“希望中国AI领域以及更广泛的中国读者也可以读到这本书，希望对你们而言，这本书是内容丰富、发人深省、鼓舞人心的，不仅对于作为研究人员有帮助，也有助于你们把自己对这个领域的热情传递给生活中的非计算机科学家。”