科技部更新了《负责任研究行为规范指引（2023）》，包含了生成式 AI 相关规定，其中包括不能将其列为成果共同完成人。《规范指引》列举的 AI 规定包括： 三、文献引用
4. 使用生成式人工智能生成的内容，特别是涉及事实和观点等关键内容的，应明确标注并说明其生成过程，确保真实准确和尊重他人知识产权。对其他作者已标注为人工智能生成内容的，一般不应作为原始文献引用，确需引用的应加以说明。
四、成果署名
7. 生成式人工智能不得列为成果共同完成人。应在研究方法或附录等相关位置披露使用生成式人工智能的主要方式和细节。
五、成果发表（三）学术出版单位
3. 应要求作者披露是否使用生成式人工智能，说明具体的软件名称、版本和使用时间，并对涉及事实和观点引证的辅助生成内容作出具体标注。
6. 合理选择审稿人，督促审稿人认真、公正评审，并对其遵守科研诚信要求的情况进行相应监督与评估。提醒审稿人在审稿过程中使用生成式人工智能应依规谨慎。
六、同行评议
7. 在评议活动中使用生成式人工智能的，应事先征得评议活动组织者同意，操作中应防止泄漏评议内容，如发生信息泄漏应及时采取必要补救措施。

过去一年是 AI 聊天机器人 ChatGPT 从震惊世界到平凡的一年。人们从最初的吃惊到逐渐认识到 AI 其实很蠢，当然不是 NFT 猿猴头像或扎克伯格元宇宙办公隔间那种蠢。ChatGPT 和 MidJourney 为代表的生成式 AI 既聪明又愚蠢，既能为我们提供帮助，也能为我们带来麻烦。比如给律师提供它自创的案例，给学生列出不存在的参考论文。问题是生成式 AI 的技术进步是否能继续下去？是逐渐变成类似科幻电影中刻画的真正的智能助手，还是停滞不前？就像自主驾驶汽车一样。厂商多年就宣称真正的自主驾驶即将到来。然而一直没有到来。生成式 AI 是否也可能出现类似的情况？如果微软 Google 等主要投资者停止补贴 AI，对大多人而言使用 AI 是否会变得过于昂贵而不值得？AI 生成的内容是否真的有人会喜欢，还是它只是浪费我们的时间？

尼康、索尼和佳能正在开发在相机拍摄的照片中嵌入数字签名的技术，以区分日益复杂的 AI 图片。防篡改数字签名将包括日期、时间、地点和摄影师等信息。AI 图片日益逼真，考验着内容制作者和用户的判断力。由全球新闻媒体、科技公司和照相机制造商组成的联盟发布了被称为 Verify 的 Web 工具，免费检查图片来源。如果图片有数字签名，Verify 将显示日期、位置等有效凭证；如果图片是 AI 创造或纂改，它会显示无内容凭证。尼康、索尼和佳能等日本照相机制造商占据着全球相机市场约九成份额。

今天流行的 IDE 都配备了辅助编程工具如 Github Copilot，但这些工具都运行在云端而非本地。开源 IDE 的辅助编程工具需要能自由运行在本地。开发者 Justine Tunney 发布了在本地运行的 Emacs 辅助编程助手 Emacs Copilot。微软的很多 AI 工具都命名为 Copilot（如 Github Copilot, MS Copilot 和 Office365 Copilot），但 Copilot 并不是微软的商标，软件巨人目前申请的商标是 MICROSOFT COPILOT，尚未获得批准。本地运行的大模型对计算机性能有要求，如果使用 WizardCoder 34b，需要 Mac Studio M2 Ultra 或更高型号，普通 PC 可能需要使用性能略低的 WizardCoder-Python-13b。

2023 年最令人震惊的科技故事可能不是 AI 的进步，而是政治精英们突然对一种目前不存在、可能永远也不会存在的 AGI（通用人工智能）感到恐惧。政客们纷纷举办 AI 峰会和制定 AI 法规防止 AI 失控。政客们似乎深陷其中信以为真。英国保守党议员、下议院科技委员会成员 Katherine Fletcher 说，有一天一台觉醒的计算机可能会决定杀死地球上的每一头牛。英国首相苏纳克（Rishi Sunak）也对 AGI 可能会像传染病和核战争那样对人类构成生存威胁表达了担忧。2023 年最瞩目的科技故事是 AI 神话对媒体和政策精英所产生的普遍而全面的影响。

GitHub 面向编程的聊天机器人 Copilot Chat 开放提供给所有用户——付费用户，以及经过认证的教师、学生和开源项目维护者可免费使用。Copilot Chat 基于 OpenAI 的大模型 GPT-4，为软件开发应用场景进行了微调。开发者可以以自然语言输入提示实时获得指导，如要求 Copilot Chat 解释概念、检测漏洞或编写单元测试。Copilot Chat 已整合在微软的 IDE 工具 Visual Studio Code 和 Visual Studio 中，可通过侧边栏访问。

PitchBook 的数据显示，科技巨头过去一年对生成式 AI 创业公司的投资远远超过风险投资集团（VC）。微软、Google 和亚马逊的投资占到了新兴 AI 创业公司在 2023 年 270 亿美元融资额的三分之二，凸显了硅谷巨人在行业最大规模的投资中如何排挤传统科技投资者。VC 们则被迫放慢投资。行业最大金额的投资包括：微软向 OpenAI 投资 100 亿美元，Google 和亚马逊向 Anthropic 投资数十亿美元。微软还向另一家生成式 AI 公司 Inflection 投资 13 亿美元。

《纽约时报》起诉 OpenAI 和微软侵犯版权，指控两家公司拷贝和使用了数百万篇《时报》文章构建 AI 模型，并且与其内容展开直接竞争。《纽约时报》称，驱动 ChatGPT 和 Copilot 的 OpenAI 和微软大模型，能逐字复述《时报》内容，总结和模仿其表达形式。诉讼称此举破坏了《时报》与读者的关系，使《时报》丧失了订阅、许可、广告和联盟营收。AI 模型破坏了新闻媒体保护内容和将内容货币化的能力，危及高质量的新闻报道。《纽约时报》过去几个月一直与微软和 OpenAI 进行谈判，但未能达成协议。

AI 聊天机器人 ChatGPT 风靡世界，但《自然》的调查发现，78% 的研究人员不常用 ChatGPT 等生成式 AI 工具。而使用 ChatGPT 的研究人员通常将其用于与研究无关的有趣活动，或者只是做做实验。ChatGPT 使用群体给出的一个重要理由是：对非母语英语者非常有帮助，可以减少花在撰写邮件和文件的时间，有助于提高工作效率。但部分研究人员还是选择尽可能避开 ChatGPT。心理学者 Ada Kaluzna 说，如果我不写自己的研究，我还算是研究员吗？她认为使用 ChatGPT 有可能会破坏学习和创造性思维能力。很多人说除非写下来，他们不知道自己在想什么。写作能让你专注于主题，收集整理想法。如果不尝试以结构化的形式纪录想法，你可能无法创造出新观念。另一些研究人员不使用 ChatGPT 是因为它经常生成假的参考文档。爱尔兰科学家 Viswanath Vittaladevaram 称，ChatGPT 有助于获取基本信息，但不应该将其用于科学论文撰写。

苹果研究人员在预印本平台 arxiv 上发表了一篇论文《LLM in a Flash》，介绍了在内存有限的设备上运行大模型推理。今天流行的大模型通常是运行在云端，依托数据中心，需要惊人的计算能力，远非本地硬件能比拟。在生成式 AI 领域追赶竞争对手的苹果计划让 AI 在 iPhone 本地直接运行而不是云端运行。苹果在移动领域的竞争对手三星也计划明年推出 AI 智能手机，最大移动芯片制造商高通 CEO Cristiano Amon 预测，智能手机引入 AI 将能带来全新的体验，逆转销量下滑。在移动设备上运行大模型或 AI 聊天机器人如 ChatGPT 需要克服巨大的技术挑战，因为手机的性能和资源都有限，解决该问题意味着大模型能离线工作，能更快响应，同时也具有隐私方面的优点，这也是苹果相对于 Google Android 的一大竞争优势。

即将担任纽约市第 43 市议会选区议员的 Susan Zhuang 承认用 AI 回答了当地媒体《City & State》的提问。她表示英语不是母语，因此将 AI 作为工具帮助促进更深入的理解。《City & State》要求当选议员回答一份有关个人兴趣和政策的问卷。其中一个问题是“What makes someone a New Yorker”，她的回答“纽约市，梦想成真的混凝土丛林。它不只是一个地方，更是一种心态...”引起了《纽约邮报》的注意，将这段答案输入检查文本是否由 AI 生成的工具 Copyleaks，结果显示这段答案很有可能是 AI 生成的。目前不清楚 Susan Zhuang 是否用 AI 回答了所有提问，还只是上面这段话。Zhuang 称她是移民，是布鲁克林第一位华裔女议员。

巴基斯坦前总理伊姆兰·汗使用 AI 在狱中参加竞选。伊姆兰·汗自今年 8 月起遭到关押，被控泄露国家机密，他本人反驳称指控是捏造的，旨在防止他参加明年 2 月的大选。伊姆兰·汗领导的巴基斯坦正义运动党周日举办了一场虚拟集会，在 AI 帮助下发表了一则 4 分钟的信息，NetBlocks 监测到巴基斯坦的互联网受到干扰，与政府以前审查伊姆兰·汗网络活动的做法一致。正义运动党称，伊姆兰·汗通过律师发送了一份速记脚本，然后用 AI 公司 ElevenLabs 的工具使用伊姆兰·汗的声音给文本配上音频，在 Facebook、X 和 YouTube 上进行的 5 小时直播活动末尾播出。

Iterate.ai 开源了能识别武器的 AI 系统 Weapon Detection Web Application (WEPWEB)，源代码采用 MIT 许可证托管在 GitHub 上。Iterate.ai 的团队使用了逾 2 万个闯入和武装抢劫视频进行训练，并雇佣了 DEA（美国缉毒署）的一名前特工帮助测试，软件运行在英伟达显卡上，能即时检测出数十种枪支类型、防弹背心、巴拉克拉瓦盔式帽和刀具。开源是为了帮助学校和非盈利组织提高安全性，在发生武装入侵的情况下挽救生命。

TikTok 母公司字节跳动一直秘密使用 OpenAI 的技术开发其代号为 Project Seed 的大模型。这种做法在 AI 领域通常被认为是令人尴尬的，也违反了 OpenAI 的服务条款——禁止将其模型输出用于开发竞争的 AI 模型。字节跳动的内部文件证实，在大模型开发的几乎每一个阶段，该公司都依赖于 OpenAI API。字节跳动员工在内部通信平台飞书中甚至讨论了“数据脱敏”。字节跳动员工经常达到 OpenAI API 的限额。在报道发表之后，OpenAI 发言人表示已经封锁了字节跳动的账号。

Stability AI 发布了能根据单幅图像生成对象各个角度视图的模型 Stable Zero123。Stable Zero123 是基于 Stable Diffusion 1.5，生成一个视图消耗的内存与 Stable Diffusion 1.5 相同，但如果要生成 3D 视图需要更多时间和更多内存，建议 24GB。Stable Zero123 目前只支持研究目的的非商业使用。代码和权重发布在 Hugging Face 上。

担心 AI 聊天机器人会帮助学生作弊？斯坦福大学的一项调查显示，AI 聊天机器人的普及并没有增加学校的总体作弊率，也就是统计上并不显著。研究人员调查了美国逾 40 所高中， 60- 70% 的学生表示最近有过作弊行为。这一比例与往年相近。斯坦福大学的 Denise Pope 表示，人们担心 AI 模型会带来全新形式的作弊，但数据并没有体现这一变化。研究结果挑战了 AI 聊天机器人正颠覆公立学校的观点。

Google DeepMind 的研究人员在《自然》期刊上发表论文，报告他们首次用大模型（LLM）发现了一个尚未解决的数学问题的解。Google DeepMind 的新工具被称为“FunSearch”，研究人员将一组产生创造性解决方案的 LLM 和一个作为检查者以避免错误建议的评估程序结合起来。接着将一个多次迭代此过程的演化方法，作为输入来引导 LLM。结果表明，这种方法可以得到新的、可验证的正确结果。他们将“FunSearch”应用到了著名的上限集问题（数学中涉及计数和排列领域的一个中心问题），发现了超越最著名上限集的大上限集新构造。研究人员表示，“FunSearch”的成功关键是它会寻找那些描述怎样解决问题的程序，而非直接寻找解决办法。因为“FunSearch”的结果易于被解释和验证，这意味着这一方法有望激发科学家在该领域的进一步思考。

微软发布了 Windows AI Studio 预览版。这个名字可能会让人产生错觉，你的 AI 软件实际上需要 Linux，但微软表示你可以通过 WSL 运行 Linux。WSL 代表 Windows subsystem for Linux。Windows AI Studio 旨在简化生成式 AI 应用开发，将 AI 模型下载到本地，然后在本地调试、测试和使用。它需要 Ubuntu 18.4 或更高版本，需要有英伟达的 GPU。

AI 模型需要消耗大量电，而微软正在核能上下注，使用核能驱动其 AI 业务。更疯狂的是，据 WSJ 报道，微软过去六个月使用美国核监管和许可文件训练其大语言模型，此举旨在加快批准建造民用核电所需的文书工作，这通常需要数年时间和花费数百万美元。微软和 Google 等科技巨头最近一直在考虑使用小型模块化反应堆（SMR），一种低成本的模块化的核电设计，目前美国尚未有此类中小型反应堆投入运行。SMR 的许可和建造仍然十分昂贵。使用 AI 起草核监管文件似乎不是一个好主意，软件巨人表示它会确保 AI 不会引发核反应堆熔毁，它也不会让 AI 去处理核代码。

《体育画报》上个月被发现发表了一篇由虚假作者署名的 AI 生成文章。虽然文章很快被撤下，但这不足以平息批评。本周《体育画报》出版商 The Arena Group 宣布董事会解雇了 CEO Ross Levinsohn。Levinsohn 自 2019 年起担任 The Arena Group CEO，此前是《洛杉矶时报》的发行人。对于 AI 文章，《体育画报》此前辩解称这篇产品评论来自第三方内容合作方 AdVon Commerce。