开放研究社区

人工智能会回答。然后呢,它真会吸取教训吗?

这里研究的不是一次答对,而是系统行动之后会不会看见后果、记住失败、修正下一次决策,并让外部的人看得见依据。

理解使用共建合作
开放研究材料与私有生产实现之间的边界示意图。
行动人工智能采取重要行动之前,应当带着什么依据?
观察当智能体改变了环境,它原来的判断还能成立吗?
学习一次纠正,能不能变成持久且有边界的改变?
审计别人能不能看清规则、结果和适用范围?

四条入口

不必先成为专家,也不必先来挑战谁。

你可以先看懂一个问题,跑一次公开材料,修正一处细节,或者带来一个真实但不泄露隐私的可靠性难题。

03

共建

提出具体问题,增加安全样例,改善文档,或者公开一个实验。

选择讨论入口
04

合作

把故障复发或行动依据会产生真实成本的问题,变成边界清楚的联合评估。

发起私下沟通

公开项目

同一个核心问题,拆成几种可以检查的工具。

每个项目处理问题的一部分。公开材料足够让人理解、使用和扩展,但不等于完整生产系统已经开源。

当前研究议题

两篇 KDD 2026 workshop 论文,追问智能体产生真实影响之后的两种失败。

ReflexBench 检查智能体进入因果回路之后,原有推理能力能否保持。实验覆盖 20 个情景、6 个领域、4 层观察者深度和 9 个公开模型;所有测试模型在更深层级上都出现退化。

认知免疫 检查一次纠错之后,严重失败会不会再次发生。在公开的分数级协议下,无记忆策略的合并重复失败率为 0.764,认知免疫为 0.650;配对 seed-task 差值为 -0.106,95% bootstrap 区间为 [-0.211, -0.003]。

边界:两篇均为已经接收并完成展示的 KDD 2026 非存档 workshop 论文,不是 KDD 主会论文,也不是生产安全认证或通用可靠性证明。

韩国济州 KDD 2026 会场大厅。

第一次贡献

可以从一处小修正开始,也可以走到完整实验。

1读完或运行一份公开材料。
2提出一个具体问题,或描述一个真实用例。
3修正一份文档、链接、样例或夹具。
4公开一个基线、实验或扩展。
5维护一个边界清楚的组件或研究议题。

开放边界

诚意开放可检查、可连接的部分,严格保护数据、人员与产品优势。

公开

已经发表的概念与公式、公开协议、模式、验证器、小型样例、最小参考实现、安全演示、文档和负面结果。

发布前审查

大型数据集、详细运行轨迹、接近生产的实现、安全敏感案例,以及组合后可能暴露实现优势的组件。

保持私有

生产编排、精确权重与阈值、私有提示词与数据、客户系统、调优历史、部署自动化和未发表研究。

查看完整发布边界

常见问题

这里欢迎什么,又明确拒绝什么。

谁可以参与?

研究者、工程师、学生、行业实践者和普通读者都可以。问题、用例、文档、安全夹具、基线、实验和代码都有价值。

贡献一定要复现或攻击某项主张吗?

不需要。你可以解释、连接、教学、改善易用性、增加样例,或者描述一个真实问题。反例与主张挑战只是需要时使用的严格工具。

开放研究是不是意味着完整产品都开源?

不是。公开协议、接口、验证器和最小参考实现,与生产实现、运行参数、客户材料和私有学习闭环明确分离。

论文或公开基准能证明生产安全吗?

不能。每项结果只在它明确写出的协议、数据、版本和限制内成立。

社区标准

带来一个真实问题,留下一个别人可以继续使用的公开成果。

成果可以是一段更清楚的解释、一份安全样例、一次比较、一个负面结果、一条修正后的边界,或者一个真正能运行的扩展。