Reducing bias and improving safety in DALL·E 2
推荐理由:涉及主流 AI 模型的安全性与公平性改进,属模型优化重要方向
OpenAI 推出新技术,使 DALL·E 2 生成的人物图像更准确反映全球人口多样性,旨在减少偏见并提升模型安全性。
推荐理由:涉及主流 AI 模型的安全性与公平性改进,属模型优化重要方向
OpenAI 推出新技术,使 DALL·E 2 生成的人物图像更准确反映全球人口多样性,旨在减少偏见并提升模型安全性。
推荐理由:涉及AI模型在创意领域的实际应用与用户反馈
DALL·E 2研究预览中,来自118国的3000多位艺术家将其融入创作流程,帮助发现新用法并指导功能设计。
推荐理由:涉及AI模型安全机制与内容合规策略,属AI模型发布相关实践。
DALL·E 2在预训练阶段引入多种防护机制,以降低生成违规内容的风险,确保符合内容政策。
推荐理由:展示了通用AI智能体在复杂环境中的学习能力,涉及新训练方法和人机交互接口
研究团队通过视频预训练(VPT)方法,利用大量人类玩《我的世界》的无标签视频和少量标注数据,训练出能使用键盘鼠标操作、完成复杂任务(如制作钻石工具)的AI智能体。
推荐理由:涉及AI辅助人类评估AI生成内容,契合AI vibe coding与人机协作主题
研究训练AI模型撰写摘要的批评意见,帮助人类更易发现其中缺陷。更大模型在自我批评方面表现更优,表明AI可辅助人类监督复杂任务中的AI输出。
推荐理由:涉及大模型训练关键技术,契合AI模型研发主题
文章探讨了训练大型神经网络的技术挑战,包括如何协调GPU集群以执行同步计算,涉及AI模型训练的核心工程问题。
推荐理由:涉及大模型部署实践,对AI工程化有参考价值
Cohere、OpenAI 和 AI21 Labs 联合提出一套适用于大模型开发与部署的初步最佳实践指南,涵盖安全、可靠性与责任等方面。
推荐理由:涉及AI模型输出可靠性,对AI应用落地有实际意义
文章探讨如何训练AI模型用自然语言表达其预测的不确定性,例如说“我不确定”或“这可能不准确”,以提升人机交互的可靠性与透明度。
推荐理由:涉及Codex在实际应用中的部署,契合AI商业化与工具使用主题
OpenAI Codex 通过 API 支持70多个应用,覆盖多种使用场景,展示其在AI辅助编程和应用开发中的广泛落地。
推荐理由:涉及AI生成模型核心技术及评测,属热门AIGC方向
论文提出GLIDE模型,基于CLIP潜在空间实现分层文本到图像生成,通过先生成低分辨率图像再逐步超分,提升生成图像与文本的一致性和细节质量。
推荐理由:涉及AI模型新能力发布,属核心技术更新
OpenAI发布新版GPT-3和Codex,支持编辑和插入现有文本,而不仅限于文本补全。
推荐理由:聚焦AI编程工具的经济影响,契合AI商业化应用主题
本文提出评估代码生成模型经济影响的研究议程,探讨其对开发者生产力、软件行业结构及就业市场的潜在效应,并建议量化指标与实证方法。
推荐理由:涉及AI模型部署安全,属AI模型服务重要议题
文章分享了AI开发者在语言模型安全部署和防止滥用方面的最新思考与实践经验,旨在帮助其他开发者提升模型安全性。
推荐理由:涉及AI在形式化数学领域的前沿应用与模型能力突破
研究团队开发了一个基于Lean的神经定理证明器,能解决包括AMC12、AIME及IMO改编题在内的高难度数学竞赛问题。
推荐理由:涉及大模型对齐与指令遵循核心技术,属AI模型优化关键方向
本文探讨如何通过指令微调(instruction tuning)使语言模型更好地遵循人类指令,提升模型在未见任务上的泛化能力,并介绍相关训练方法与评估基准。
推荐理由:涉及AI模型服务新功能发布及技术应用
OpenAI 推出新的嵌入(embeddings)API 端点,支持文本和代码的语义搜索、聚类、主题建模与分类等任务。
推荐理由:涉及AI编程核心嵌入技术,对AI辅助编程工具开发有参考价值
文章介绍通过对比预训练方法构建文本和代码嵌入模型,提升代码搜索、克隆检测等任务效果,适用于AI编程工具底层技术。
推荐理由:涉及大模型能力增强与事实性改进,属AI模型技术进展
OpenAI通过微调GPT-3,使其能使用文本浏览器搜索网页信息,从而提升开放式问答的事实准确性,形成WebGPT模型。
推荐理由:涉及大模型定制化与实际应用,符合AI模型服务发布及使用主题
介绍如何通过单条命令对GPT-3进行微调,以适配特定应用场景,提升模型在垂直任务上的表现。
推荐理由:涉及主流AI模型服务开放,影响开发者使用
OpenAI宣布其API取消等待列表,现已向更多用户开放,此举得益于其在安全方面的进展。