自部署并发调查 由于我们的模型可能需要用到自己的第三方模型，因此需要自己部署。 一个是自己部署，自己维护可靠性，在一站式不成熟的情况下，避免和第

背景 正在编写go的测试用例case，但是对基本流程不熟。 建议还是用goland开发，用vscode有点难受 方法 在Go语言中，编写测试函数和设

背景 python包管理是一个非常抽象的问题，尤其是设计cuda登显卡环境的时候更加如此。 cu的问题我解决不了，但是普通工程的依赖问题需要解决

python协程 语法 定义协程 协程是使用 async def 关键字定义的函数。协程可以在执行过程中暂停，并在稍后继续执行。 1 2 3 4 5 6 import asyncio async def my_coroutine(): print("Hello") await asyncio.sleep(1) print("World") 运行协

介绍 LoRA属于PEFT。一种利用微调训练少量参数，来达到全量微调的效果的技术。 在实际工程中非常常用。 文本主要将LoRA原理以及为什么LoR

背景 一直在用大模型，也大概知道有哪些参数，但是一直没有详细了解其底层是什么原理，决定学习一下。 推理相关参数 LLM看似很神奇，但本质还是一个概