腾讯研究院AI速递 20240618
生成式AI
一、 ChatGPT最新最全定价体系,免费、Plus版、团队版,教育版等等
1. ChatGPT扩展了新功能和定价计划,包括个人、企业及非营利组织等多种订阅选项;
2. 免费版提供基本功能和日使用量限制,付费版如ChatGPT Plus和企业版提供增强的数据分析和定制选项;
3. 新增记忆功能和即将推出的语音模式,旨在增强用户体验和实时互动能力。
021yin.com/s/Gb0vtaFQlhdQcJ-wVQ-Lzg
二、 DeepMind新研究TransNAR:给模型嵌入「算法推理大脑」
1. DeepMind的TransNAR结合Transformer的自然语言处理和GNN的神经算法推理器,解决推理缺陷;
2. TransNAR使用预训练的NAR作为调制器,通过embedding和交叉注意力机制实现模态融合;
3. 实验表明TransNAR在多种算法任务中的泛化能力超过传统Transformer模型,尤其在分布外推理上。
021yin.com/s/YPICpkYHAC7zTLC_0M_XkQ
三、 复旦吉印通上海人工智能实验室初步实现传说中的「Q*」算法?
1. MCT Self-Refine (MCTSr) 结合了大语言模型和蒙特卡洛树搜索,提升了复杂数学问题的解决能力;
2. 引入动态剪枝和改进置信上限公式,优化了模型在高风险数学任务中的决策过程;
3. MCTSr 显著提高了LLaMa-3 8B模型在数学竞赛中的表现,与GPT-4的水平接近。
021yin.com/s/g2w7Rn7Q0mtz9xTPX-Q0Mw
四、 大模型「幻觉」有解?图神经网络成破解核心,精准预测因果
1. Alembic开发了一种新型AI系统,使用图神经网络(GNN)消除了大模型在生成数据时的「幻觉」问题;
2. 该系统通过识别因果关系而不仅仅是相关性,提高了数据分析和决策支持的准确性和可靠性;
3. Alembic的技术允许企业在时间感知的因果图中进行复杂的数据分析,提供确定性预测和战略建议。
021yin.com/s/mmWi2RPXBcU2KtVUoVOH6Q
五、 OpenAI等30+学者祭出75页提示报告,使用LLM的最全怪癖
1. 大语言模型(LLM)的提示技术研究显示重复内容可以显著提高模型性能,而人名匿名化会降低准确性;
2. 研究发现LLM对提示中的细节非常敏感,例如示例的选择和顺序对模型效果有极大影响;
3. 通过系统研究,建立了一个包含多种提示技术的分类体系,以及对提示工程的深入理解。
021yin.com/s/iKB9j1Nr4bDLA4rVv6jHWA
六、 3D 版 SORA 来了!全球首个原生 3D-DiT 大模型 Direct3D
1. DreamTech推出了全球首个原生3D生成大模型Direct3D,采用3D Diffusion Transformer (3D-DiT)技术,专门解决高质量三维内容生成难题;
2. Direct3D模型使用原生3D技术路径,避免了传统2D升维技术中的多头多面、空腔、遮挡等问题;
3. 该模型通过大规模3D训练数据和改进的DiT架构,预计将在多个行业中推动3D生成技术的广泛应用。
021yin.com/s/y2uVCgy0ywSlsF860Byt3g
七、 复旦等出品「Hallo」嘴唇、表情和姿态分层的音频驱动视觉合成模块
1. Hallo项目让Taylor Swift虚拟演唱Beyoncé的《Halo》,在GitHub上获得超1000星;
2. 采用分层音频驱动视觉合成和扩散模型,实现了高保真的音视频同步,尤其在口型、表情和头部姿态的自然表现上表现突出;
3. 在多个数据集上表现优异,具有良好的泛化能力和鲁棒性,但存在时序一致性和效率局限,引发Deepfake风险关注。
021yin.com/s/JMKnd56oT-WfOKBeWTyxeA
八、 日本举国支持日版OpenAI,获得多家硅谷风投1亿美金投资
1. Sakana AI由谷歌DeepMind校友在东京创立,专注于开发大型语言模型,新一轮融资估值达到10亿美元;
2. 该公司获得硅谷多家风投包括OpenAI投资者的支持,筹资1亿美元,强化日本市场的AI能力;
3. Sakana AI致力于开发具地区特色的AI模型,获日本政府大力支持,并探索在自然规则启发下的模型创新。
021yin.com/s/0hM_XhvLkqg-MhaHMeBXgA
前沿科技
九、 计算效率提升100倍以上,上交用大模型用于从头算分子动力学
1. 上海交通大学开发的T-AIMD模型,基于Transformer架构,显著提高从头算分子动力学的计算效率,达到传统方法的100倍以上;
2. T-AIMD能快速准确预测离子在各种条件下的行为,大幅缩短材料研发周期,适用于多种复杂材料系统;
3. 该模型已在电池材料等实验中验证其预测准确性,具有广泛的应用潜力,改变了材料科学的研究和应用前景。
021yin.com/s/Ms5RsyRVYqLc-FU-TKmNJA
报告观点
十、 吴恩达:美国加州SB-1047法案,监管不当将扼杀开源大模型
1. SB-1047法案将严重限制AI开源模型的创新,因为它对开发者实行严格的连带责任,即使在模型被他人修改后使用于非法目的,原开发者也将受罚;
2. 法案要求开发者提交使用者详细资料并进行年度报告,增加合规成本,同时必须能随时停止模型运行;
3. 吴恩达和其他AI领域专家强烈反对此法案,认为应该监管AI应用而非技术本身,警告此法通过将抑制技术进步,影响AI领域发展。
021yin.com/s/s7YbKl5kfydHxJvofVpBxQ
👇订阅下方合集,获取每日推送