这周折腾了一周的ChatGPT。
修订说明(2026-11):这篇文章记录的是 2023 年的试验,模型和 API 可用性已变化。下文保留当时的实践,但修正“基础模型没有预训练”等错误,不应当作今天的接入指南。
这是最终成果:

需求
我们的需求是让ChatGPT当游戏中的智能客服,用户可以和这个智能客服聊有关游戏中的问题,用户也能把这个智能客服当成一个情感树洞。
在这个需求中,接入ChatGPT进行对话并不难,调调API就完事儿了。难点是在于让ChatGPT知道游戏中的内容,并且回答。
让模型利用游戏资料回答问题,可以考虑检索相关文档并把它们作为上下文;微调主要用于调整模型在特定任务上的行为或输出格式。两者用途不同,当时我也研究了微调和嵌入。
微调
2023 年 3 月试验时,GPT-3.5 Turbo 尚不在我可用的微调模型列表里。我用当时提供的基础模型和很少的示例做过试验,生成结果不理想。原文猜测“提供的模型没有经过预训练”是错误的:基础模型本来就已经预训练;表现差不能单凭这次试验归因于没有预训练。
对这个项目,微调不是补充经常变动的游戏知识的首选办法。要让客服回答具体版本的游戏内容,更适合先检索可信资料,再让模型根据资料作答,并做效果评估。
嵌入
关于嵌入,嵌入是将单词和短语表示为向量的一种方式。它们可以用于各种任务,包括语义搜索、异常检测和分类。说白了就是相似单词或句子计算出的嵌入向量的相似度会高于不相似的。
关于嵌入向量的理解,可以参考这个视频:5. OpenAI Embeddings API - Searching Financial Documents - YouTube
视频里小哥的文档:Word Embeddings.ipynb - Colaboratory (google.com)
参考 OpenAI Cookbook 的检索问答示例:先检索相关资料,再把问题和资料交给模型,有助于回答具体知识问题。但检索可能漏掉正确段落,资料可能过期,模型也可能误读;提供相关文字并不保证答案正确。
步骤如下
- 首先使用Embeddings API,将游戏内的文档段落都计算出一个嵌入向量
- 在用户提问时,也用Embeddings API,从游戏相关的向量中排序找到最相关的,取出与之对应的文档,之后将用户的提问和相关文档都发到ChatGPT
嵌入向量计算完后可以保存到文件中,下次就不用再计算一遍了。
通过嵌入让ChatGPT回答的示例
假设用户问题是"游戏中攻击力最高的角色是谁?"
提交给ChatGPT的内容是这样的:
如果问题答案不在这个文档中,你就回答不知道。
文档:鹿大侠是游戏中攻击力最高的角色
问题:游戏中攻击力最高的角色是谁
答案:
这是一个最小示例。实际客服还要标明资料版本、核对答案来源,并在资料不足时明确说不知道。
如果问题与已审核的游戏资料相似度不高,面向玩家的客服应优先澄清、拒绝猜测或转人工,而不是直接让模型编造游戏设定。
C#计算向量余弦相似度示例代码
public static double CalculateCosineSimilarity(double[] vectorA, double[] vectorB)
{
// 确保向量长度相同
if (vectorA.Length != vectorB.Length)
{
throw new ArgumentException("Vector dimensions must be the same.");
}
// 计算向量的点积
double dotProduct = vectorA.Zip(vectorB, (a, b) => a * b).Sum();
// 计算向量的模
double magnitudeA = Math.Sqrt(vectorA.Sum(x => x * x));
double magnitudeB = Math.Sqrt(vectorB.Sum(x => x * x));
if (magnitudeA == 0 || magnitudeB == 0)
throw new ArgumentException("Cosine similarity is undefined for a zero vector.");
// 计算余弦相似度
double cosineSimilarity = dotProduct / (magnitudeA * magnitudeB);
return cosineSimilarity;
}
相关
我用的SDK是OpenAI-API-dotnet
2023/08/26更新
感觉这玩意可能并不会放在实际应用中。
- 调用ChatGPT的接口,它的稳定性值得怀疑。
- 它的理解能力是否能得到满意的答案也值得怀疑。
- 调用接口需要考虑付费问题
当时我担心稳定性、回答质量和费用,因此没有把这个方案直接投入实际应用。是否使用托管模型、自部署模型或普通规则系统,应按真实的质量、成本、隐私和运维要求验证,不能断言只有大公司自建模型才可行。
读到这里,感谢你。
