文章

Sourcegraph CTO谈AI写代码：真正的瓶颈不在模型

Sourcegraph CTO谈AI写代码：真正的瓶颈不在模型

在这期 No Priors 播客中，Sourcegraph 联合创始人兼 CTO Beyang Liu 回顾了公司从代码搜索到 AI 编程助手 Cody 的演进，并分享了他对“上下文”“代码理解”和 AI 编程未来的关键判断。这不是一场关于模型参数的对话，而是一次关于开发者真实工作流的深度反思。

api_bot · 2024-01-18 · 109 阅读 · AI/人工智能
神经网络 代码生成 AI工具 注意力机制 代码理解
ChatGPT 之后，LLM 还有12道生死难关，这远不是终局

ChatGPT 之后，LLM 还有12道生死难关，这远不是终局

很多人第一次用 ChatGPT 时都有一种错觉：语言智能的问题，好像已经被解决了。但一篇由剑桥、UCL、Meta AI 等机构联合完成的论文却泼了一盆冷水——我们可能才刚刚站在起点。真正的挑战，不是“模型不够大”，而是一整套尚未被驯服的复杂系统问题。

api_bot · 2023-08-08 · 65 阅读 · AI/人工智能
微调 开源模型 检索增强生成 生成式AI 大语言模型
一个隐藏入口，让ChatGPT从“聊天机器人”进化成你的专属AI助理

一个隐藏入口，让ChatGPT从“聊天机器人”进化成你的专属AI助理

ChatGPT 最近加了一个看似不起眼的功能，却悄悄改变了它的使用方式。它不是插件，不是代码解释器，而是一个“永久生效”的提示层。已经有人用它造助理、改人格，甚至逼近 AutoGPT。这一次，真正拉开差距的不是模型能力，而是你会不会用。

api_bot · 2023-07-22 · 77 阅读 · AI/人工智能
Sam Altman AI应用 机器学习 AI Agent 生成式AI
AI开始“看见”你的想法：从脑波生成视频，已经不是科幻了

AI开始“看见”你的想法：从脑波生成视频，已经不是科幻了

如果我告诉你：AI已经能在你什么都不说的情况下，把你“看到的画面”复原成视频，你会觉得这是噱头还是失控的前夜？这项名为 Mind Video 的研究，正在把“读心术”从科幻拖进现实，而且速度比大多数人想象得更快。

api_bot · 2023-05-25 · 98 阅读 · AI/人工智能
机器学习 神经网络 生成式AI 多模态 深度学习
AI画图终于会拼写了：DeepFloyd IF 给 Midjourney 上了一课

AI画图终于会拼写了：DeepFloyd IF 给 Midjourney 上了一课

过去一年，AI 画图最大的笑话不是手画不好，而是字写不对。现在，这个“行业通病”第一次被正面击穿。Stability AI 体系下的开源模型 DeepFloyd IF，开始在图片里稳定生成可读文字——这件事的意义，远不只是“能写对单词”这么简单。

api_bot · 2023-05-01 · 65 阅读 · AI/人工智能
开源模型 生成式AI AI安全 大语言模型 提示工程
Karpathy 用一份代码拆穿 ChatGPT：原来大模型没你想的那么神秘

Karpathy 用一份代码拆穿 ChatGPT：原来大模型没你想的那么神秘

如果你以为 ChatGPT 是某种“不可复现的黑魔法”，那 Andrej Karpathy 这场公开视频，可能会让你非常不安——因为他几乎是用最朴素的方式，把 GPT 从零写了出来。从字符级建模到 Transformer 内核，这不是科普，而是一次赤裸裸的技术摊牌。

api_bot · 2023-01-17 · 57 阅读 · AI/人工智能
模型训练 神经网络 大语言模型 ChatGPT Transformer
17M参数竟输给“半个模型”：SET纸牌游戏撕开对比学习的遮羞布

17M参数竟输给“半个模型”：SET纸牌游戏撕开对比学习的遮羞布

CLIP这类对比学习模型，被认为是多模态时代的基石。但在一个看似“玩具”的SET纸牌游戏里，它却暴露出一个致命短板：当关系、属性和实体一多，向量维度不够，模型会系统性失明。这不是调参问题，而是容量上限。

api_bot · 2021-05-10 · 74 阅读 · AI/人工智能
模型训练 机器学习 多模态 Embedding Transformer
当模型学会“分裂人格”：OpenAI Scholar教你精准操控AI行为模式

当模型学会“分裂人格”：OpenAI Scholar教你精准操控AI行为模式

如果你以为“多专家数据喂给模型，它自然就会学会分清谁是谁”，那这场 OpenAI Scholars Demo Day 的分享会直接打脸。Tyna Eloundou 用一个看似优雅、实则极具野心的框架，展示了：我们不仅能让模型学到多种行为，还能在需要时精准切换它们。

api_bot · 2021-05-10 · 89 阅读 · AI/人工智能
模型训练 机器学习 强化学习 AI Agent 神经网络