Solving math word problems
推荐理由:涉及AI模型在特定任务上的性能突破与评测
新系统解决小学数学应用题的准确率接近人类儿童水平,比微调后的GPT-3准确率高出近一倍,在相同测试中得分55%(儿童为60%)。
推荐理由:涉及AI模型在特定任务上的性能突破与评测
新系统解决小学数学应用题的准确率接近人类儿童水平,比微调后的GPT-3准确率高出近一倍,在相同测试中得分55%(儿童为60%)。
推荐理由:涉及AI模型训练与人类反馈机制,属AI模型优化方向
探讨如何通过人类反馈扩展对AI系统的监督,以提升AI在难以评估任务(如书籍摘要)中的表现。
推荐理由:涉及AI模型评测与真实性评估,契合模型评测主题
TruthfulQA是一个用于评估大模型生成内容真实性的基准数据集,通过衡量模型模仿人类错误陈述的倾向,帮助识别和减少AI幻觉问题。
推荐理由:涉及AI编程核心模型更新,与AI辅助编程直接相关
OpenAI发布了改进版Codex,该AI系统可将自然语言转为代码,并通过API开启私测。
推荐理由:热门AI工具库推荐,提升神经网络开发效率
Triton 1.0发布,这是一个开源的类Python GPU编程语言,让无CUDA经验的研究者也能编写高效GPU代码,性能媲美专家手写代码。
推荐理由:聚焦代码大模型评测,契合AI vibe coding与模型评测主题
论文《Evaluating large language models trained on code》提出CodeXGLUE基准,系统评估代码大模型在代码生成、翻译、修复等任务上的性能,涵盖多个数据集和指标,为AI编程模型提供标准化评测框架。
推荐理由:涉及AI模型训练与行为优化,属模型改进技术
研究表明,通过在小型精选数据集上微调,可有效改善语言模型在特定行为价值观上的表现。
推荐理由:体现GPT-3在真实应用中的商业化落地案例
超过300款应用通过API集成GPT-3,实现搜索、对话、文本补全等AI功能,展示其在实际产品中的广泛应用。
推荐理由:揭示AI模型内部机制,对理解多模态模型有重要价值
研究发现CLIP模型中存在多模态神经元,能对同一概念的不同表现形式(如字面、符号或抽象)作出响应,有助于解释其强大的图像分类能力,并揭示模型学到的关联与偏见。
推荐理由:涉及大模型能力与局限,契合模型评测与应用关注点
文章深入探讨大语言模型的能力边界、局限性及其对社会的影响,涵盖技术原理、实际应用中的挑战及伦理问题。
推荐理由:涉及大模型基础设施,与AI模型训练密切相关
OpenAI分享将Kubernetes集群扩展至7500节点的经验,支撑GPT-3、CLIP、DALL·E等大模型训练及小规模快速迭代研究。
推荐理由:涉及AI模型发布及多模态生成技术,属核心AI进展
OpenAI发布DALL·E模型,可根据自然语言文本生成对应图像,展示AI在多模态生成领域的强大能力。
推荐理由:重要多模态模型发布,具零样本能力
OpenAI发布CLIP模型,通过自然语言监督学习视觉概念,支持零样本图像分类,仅需提供类别名称即可应用于各类视觉任务。
推荐理由:涉及AI模型商业化授权,符合AI商业化应用主题
OpenAI授权微软使用GPT-3技术,用于其产品和服务,标志着大模型商业化的重要进展。
推荐理由:涉及AI模型在专业领域的创新应用,属AI技术前沿探索
探索生成式语言模型在自动定理证明中的应用,通过微调大语言模型提升形式化数学推理能力,并在Lean等证明助手中实现初步验证。
推荐理由:涉及AI模型训练方法及性能优化,属模型评测与改进范畴。
通过人类反馈强化学习训练出更优的文本摘要语言模型,提升摘要生成质量。
推荐理由:涉及AI生成模型技术原理与性能评测
研究表明,与语言模型类似,基于像素序列训练的大型Transformer模型可生成连贯图像,并在无监督图像分类任务中表现优异。
推荐理由:涉及 AI 模型服务发布,对开发者有直接使用价值
OpenAI 发布新 API,提供对其最新 AI 模型的访问接口,开发者可集成其先进模型能力到各类应用中。
推荐理由:探讨大模型核心能力,对AI编程与应用有启发
论文提出语言模型可通过少量示例(few-shot)完成任务,无需微调。在多个NLP基准上验证了该能力,展示了大模型的泛化潜力。
推荐理由:涉及AI模型训练效率与算法进展,契合模型评测与技术演进主题
自2012年以来,训练ImageNet分类神经网络所需算力每16个月减半,算法进步带来的效率提升远超摩尔定律,凸显AI领域算法优化的重要性。