OpenAI 前沿 AI 民主治理第二部分:赋能网络防御者
OpenAI 发布前沿 AI 民主治理系列第二部分,提出通过前沿 AI、更强保障措施、现代化网络安全和更具韧性的公共机构来赋能网络防御者。该蓝图聚焦于利用前沿 AI 强化防御方能力,并配套更完善的防护机制与网络安全现代化举措。
OpenAI 发布前沿 AI 民主治理系列第二部分,提出通过前沿 AI、更强保障措施、现代化网络安全和更具韧性的公共机构来赋能网络防御者。该蓝图聚焦于利用前沿 AI 强化防御方能力,并配套更完善的防护机制与网络安全现代化举措。
Microsoft Research Catalyst Lab 负责人 Chris White 在播客中讲述其从哈佛博士后转向 DARPA 项目经理、赴阿富汗领导先进技术行动,再到开发暗网搜索工具打击人口贩运的经历。他因相关工作获得 2016 年美国总统打击人口贩运特别努力奖。对话还涉及创新中问题选择的重要性,以及目睹人性阴暗面后仍保持希望。
Kendall Square Association 第18届年会在 The Engine 举行,MIT 教授 Daron Acemoglu 在主题演讲中提出,应让 AI 成为扩展劳动者能力的工具而非工作的敌人。
AWS 提出 Trust in Depth 方法,用独立分层的验证机制让 AI 智能体在可验证时自主行动、把人工判断留给真正需要决策的环节。该方法围绕 Scope、Know、Bound、Observe 四个生命周期问题展开,并用自动化推理检查智能体规则是否在所有路径上成立。
MIT 教授 Eric So 在新书《The Collision: What AI Does to Us》中提出,过度依赖 AI 会导致"认知萎缩",使人丧失并难以保留关键思考能力。
MIT McGovern 研究所团队在 PNAS 论文中提出,衡量人工神经网络生物学合理性的关键指标是网络能否在没有开发者干预下自我组织,并证明随机连接的单元组仅凭简单的连接调整规则就能重塑为有效的信息处理网络。该网络依靠自组装基序实现学习,性能与采用反向传播训练的网络相当。研究目标是理解大脑的学习规则,也可能反过来改进机器学习系统。
MIT 媒体艺术与科学教授、建设性传播中心(CCC)主任 Deb Roy 在《原子科学家公报》发表《谁为这些话负责?》一文,主张即便文本由 AI 生成,也必须有人对其负责、可被问责。他以 2017 年 FCC 收到超 2200 万条网络中立性公众评论、其中近 1800 万条被纽约州总检察长认定造假为例,指出大语言模型抹去了模板化文本等造假痕迹,使公众意见渠道的可信度受损。