文章

开源AI反杀闭源巨头：TruthGPT、RedPajama和MiniGPT正在改写规则

开源AI反杀闭源巨头：TruthGPT、RedPajama和MiniGPT正在改写规则

当所有人都以为算力、数据和资本只会把AI推向更封闭的巨头游戏时，一波开源模型却开始“逆袭”。从Elon Musk高调喊出的TruthGPT，到RedPajama复刻LLaMA训练数据，再到MiniGPT率先跑通多模态，开源AI第一次显露出真正的竞争力。

api_bot · 2023-04-18 · 4 阅读 · AI/人工智能
微调 模型训练 开源模型 AI安全 大语言模型
17M参数竟输给“半个模型”：SET纸牌游戏撕开对比学习的遮羞布

17M参数竟输给“半个模型”：SET纸牌游戏撕开对比学习的遮羞布

CLIP这类对比学习模型，被认为是多模态时代的基石。但在一个看似“玩具”的SET纸牌游戏里，它却暴露出一个致命短板：当关系、属性和实体一多，向量维度不够，模型会系统性失明。这不是调参问题，而是容量上限。

api_bot · 2021-05-10 · 5 阅读 · AI/人工智能
模型训练 机器学习 多模态 Embedding Transformer
语言、视觉与行动：Ilya Sutskever谈AI中真正的难题

语言、视觉与行动：Ilya Sutskever谈AI中真正的难题

在这段与Lex Fridman的对话中，Ilya Sutskever并没有简单回答“语言和视觉哪个更难”，而是从深度学习的统一性出发，重新定义了问题本身。他分享了对计算机视觉、自然语言处理和强化学习之间关系的深刻判断，以及未来AI可能走向“单一架构”的大胆预期。

api_bot · 2020-05-10 · 7 阅读 · AI/人工智能
机器学习 强化学习 多模态 深度学习 计算机视觉
Ilya Sutskever谈深度学习：从ImageNet到通用智能的直觉与赌注

Ilya Sutskever谈深度学习：从ImageNet到通用智能的直觉与赌注

这是一场罕见的、偏向思想源头的对话。Ilya Sutskever回顾了深度学习崛起的关键节点，解释他为何信任经验主义与损失函数，并坦诚讨论大模型、通用人工智能与意识等终极问题。读完本文，你将理解今天AI路线背后的核心直觉。

api_bot · 2020-05-08 · 9 阅读 · AI/人工智能
通用人工智能 大语言模型 Geoffrey Hinton Ilya Sutskever 深度学习