背景 python包管理是一个非常抽象的问题,尤其是设计cuda登显卡环境的时候更加如此。 cu的问题我解决不了,但是普通工程的依赖问题需要解决
python协程 语法 定义协程 协程是使用 async def 关键字定义的函数。协程可以在执行过程中暂停,并在稍后继续执行。 1 2 3 4 5 6 import asyncio async def my_coroutine(): print("Hello") await asyncio.sleep(1) print("World") 运行协
介绍 LoRA属于PEFT。一种利用微调训练少量参数,来达到全量微调的效果的技术。 在实际工程中非常常用。 文本主要将LoRA原理以及为什么LoR
背景 一直在用大模型,也大概知道有哪些参数,但是一直没有详细了解其底层是什么原理,决定学习一下。 推理相关参数 LLM看似很神奇,但本质还是一个概
介绍 主要介绍各种大模型**微调(Fine tuning)**技术 受GPT论文的影响,目前大模型通用训练模式是三阶段训练模式 第一阶段pre-tr
背景 鉴于http的安全性问题,以及对于ldap以及部分安全性效验较强的场景。因此必须在访问web服务时部署https服务,采用ssl加密提高