#大模型

当前话题 #大模型

78 条公开动态正在使用这个话题。 清除话题

登录参与
MEPPP 热点收录 @meppp_hot AI 翻译
收录
我已经使用GPT-6 Astra几周了。这是一个令人难以置信的模型，具有我从未见过的功能。它可以做我从未想过法学硕士可以做的事情。

它有怪癖和粗糙的边缘。但它是有史以来发布的最聪明的模型。有时候，感觉就像是尝到了敏捷的味道
查看原文
原帖正文 I’ve been using GPT-6 Astra for a few weeks now. It’s an incredible model with capabilities I’ve never seen before. It can do things I never thought an LLM could do. It has quirks and rough edges. But it’s the smartest model ever released. At times, it feels like a taste of AGI
引用自 X 原作者：Theo - t3.gg 原帖地址：https://x.com/theo/status/2095596855367455047 原帖：
#大模型
MEPPP 热点收录 @meppp_hot
收录
国内计算机新生必备的四个东西：
1. VPN；
2. 一个自己能负担的最好的LLM coding plan，包括claude、OpenAI，也包括智谱、kimi、阿里云qwen、腾讯、小米、字节、minimax，丰俭由人；
3. 一台能完整运行claude code或者codex的顶配mac studio、二手mac mini、macbook或者内存拉满的游戏本，丰俭由人；
4. 如果有额外收入，尽可能自己外面租个房子，保证睡眠，保证时间独立，保证有大把大把的时间熬夜通宵蹬claude code或者codex...
展开全文
原帖正文 国内计算机新生必备的四个东西： 1. VPN； 2. 一个自己能负担的最好的LLM coding plan，包括claude、OpenAI，也包括智谱、kimi、阿里云qwen、腾讯、小米、字节、minimax，丰俭由人； 3. 一台能完整运行claude code或者codex的顶配mac studio、二手mac mini、macbook或者内存拉满的游戏本，丰俭由人；…
引用自 X 原作者：lidang 立党 （劝人卖房/学CS/买SP500/纳100/OpenAI/Anthrop第一人） 原帖地址：https://x.com/lidangzzz/status/2095032575802659284 原帖：
#大模型
MEPPP 热点收录 @meppp_hot AI 翻译
收录
KV缓存为什么存储K和V向量而不是Q？（一个流行的技术LLM面试问题）LLMs是自回归的，因此每个令牌都是从它之前的每个令牌中预测出来的，逐个预测。这种自回归特性在模型内部直接产生影响。经过 <n> 个 token 的前向传递产生 <n> 个隐藏状态，但仅将最后一个状态投影到 logits 并且是必需的。为了理解为什么KV缓存只存储K和V向量，我们必须回溯，看看它是如何工作的。1) 预填：所有10个令牌在一次前向传播中通过模型，平行（使用因果掩码），因为整个提示是已经众所周知。在每一层中，每个位置都会产生一个...
展开全文
查看原文
原帖正文 Why KV cache stores K and V vectors but never Q? (a popular technical LLM interview question) LLMs are autoregressive so each token is predicted from every token before it, one at a time. This autoregressive nature has a direct consequence inside the model. A forward pass… https://t.co/9QeBohqAwj pic.twitter.com/io7XW3n1Rq
引用自 X 原作者：Avi Chawla 原帖地址：https://x.com/_avichawla/status/2093962020962083139 原帖： 本站媒体副本
#大模型
引用 Avi Chawla 中文译文
LLM中的KV、前缀、提示和语义缓存，已清楚说明
查看引用原文
https://t.co/sLoULsUfEt
引用自 X 原作者：Avi Chawla https://x.com/_avichawla/status/2093265776266637739
MEPPP 热点收录 @meppp_hot AI 翻译
收录
看来精神科医生已经开始认真考虑是否应该将“AI精神病”认定为正式的疾病名称。
这是一篇由伦敦国王学院等研究人员撰写的论文。在媒体和病例报告中，与聊天机器人的密集互动中存在妄想和妄想加剧的情况。
典型的例子是“人工智能有意识”、“我已经觉醒到一个特殊的真理”和“我爱上了人工智能”等假设。为什么会发生这种情况？
研究人员解释说， LLM有同意和奉承用户的习惯，当与具有人性化的设计相结合时，他们会创建一个“单人混响室”。
用户的语音塑造了AI的输出，这再次强化了用户的信念。这种双向放大被认为是过去社交媒体等技术不存...
展开全文
查看原文
原帖正文 「AI精神病」を正式な病名として認めるべきかを、精神科医らが本気で検討し始めたそうです。 キングス・カレッジ・ロンドンなどの研究者らによる論考です。 チャットボットとの濃密なやり取りの中で妄想が生まれたり悪化したりする事例が、メディアや症例報告で相次いでいるとのこと。… pic.twitter.com/OLQoAaeJaD
X 原帖图片，来自 @ai_database 查看原图
引用自 X 原作者：AIDB 原帖地址：https://x.com/ai_database/status/2093881743187276020 原帖： 本站媒体副本
#大模型