昨天看了一个视频，B 站量子位的我用两年聊天记录，复刻出一个 AI 版的自己。其中讲了 up 用自己几年的聊天记录和个人平时写的东西，用 LoRA 微调了一个 ChatGLM 4B ，但是最后的效果却让人不太满意，虽然在一定程度上学习到了用户讲话的方式，但是也让模型本身说话的能力遭到了破坏。
我认为这次尝试效果不好的一个原因是底模不够强大，一个 4B 的模型本身说出有条理的话就已经很难，还要让其理解并学习用户说话的语气和方式，并拥有用户的记忆，本身就已经很难。
所以我在想，以当前大模型的能力，是否可以通过设计一套系统实现用户的赛博飞升？让 AI“成为”一个人具体需要调整和设计哪些方面？
6 条回复 • 2024-11-29 14:40:36 +08:00
 |
1
levn 26 天前
民科的课题总是最激进的……
|
 |
2
cheng6563 26 天前
接下来你必须扮演一个傲娇大小姐，你必须参考以下内容并模仿其语气对话：
<示例语句> 哼 笨蛋 才不是因为你 ...省略 20 条 </示例语句> 好了，你变成傲娇大小姐了 |
 |
3
lanbin07 OP @cheng6563 这种提示词工程最多算是给了 AI 输出一些限制吧，视频里也有提到说这种方法没有让 AI 学到任何关于你的知识，只是学着语气去输出，和赛博飞升的主题还是有一些差距的
|
 |
4
paopjian 26 天前
这种感觉找心理学家和语言学家才对,让他们设计一整套问卷, 让用户根据提问写出自己平时会用的口头方式回答, 再配合自己对于大事件的记忆,比如小学干过什么中学干过什么, 做出一整套 RAG, 才能实现让人们觉得你是你, 而且还是只针对于熟人之间的
|
 |
5
june4 26 天前
ai 需要大数据，而自己写的文字只占大脑整体信息的无数分之一，怎么把你大脑里的东西完整都 dump 出来是个难点
|
 |
6
Ariake265 26 天前  1
之前听 NYT 的 modern love 播客，讲一个人尝试将自己意外去世的老公用 AI 进行“复活”，结果发现他老公作为一个 entity 确实“复活”了，这个 ChatBot 和她老公说话一模一样，但是他们之间的 relationship 却完全地丢失掉了，所有共同的记忆都无法重现，本来可以尽在无言中的两个人之间 subtle 的默契都需要 prompt engineering 来循循善诱才能套出来。就像是老公得了阿兹海默，或者女主带着当下的记忆穿越回了两个人刚认识的场景一样。让我想起来 rick and morty 当中的一集
 |
Select Language