背景 一直知道这玩意儿,也知道一部分其底层原理,但是没有实际深究过,决定mark一下。 大模型的记忆原理 从计算机科学的角度来看,最好将LLM的推
背景 有些东西,名词,经常听见,也大概知道是什么意思,但是就是总记不住,列个case。 幻觉 **如果AI模型所生成输出没有任何已知事实的支持,幻
自部署并发调查 由于我们的模型可能需要用到自己的第三方模型,因此需要自己部署。 一个是自己部署,自己维护可靠性,在一站式不成熟的情况下,避免和第
背景 正在编写go的测试用例case,但是对基本流程不熟。 建议还是用goland开发,用vscode有点难受 方法 在Go语言中,编写测试函数和设
背景 python包管理是一个非常抽象的问题,尤其是设计cuda登显卡环境的时候更加如此。 cu的问题我解决不了,但是普通工程的依赖问题需要解决
python协程 语法 定义协程 协程是使用 async def 关键字定义的函数。协程可以在执行过程中暂停,并在稍后继续执行。 1 2 3 4 5 6 import asyncio async def my_coroutine(): print("Hello") await asyncio.sleep(1) print("World") 运行协