83427aaaba
- 在聊天页面添加了超参数输入框，包括最大生成长度、温度、Top-p 采样和重复惩罚 - 优化了聊天框的布局，使用 gr.Row() 和 gr.Column() 实现了更合理的界面结构 - 更新了 bot 函数，支持根据用户输入的超参数进行文本生成 - 修复了一些代码格式问题，提高了代码的可读性
基于文档驱动的自适应编码大模型微调框架
简介
本人的毕业设计
项目概述
- 通过深度解析私有库的文档以及其他资源，生成指令型语料，据此对大语言模型进行针对私有库的微调。
项目技术
- 使用unsloth框架在GPU上实现大语言模型的qlora微调
- 使用langchain框架编写工作流实现批量生成微调语料
- 使用tinydb和sqlite实现数据的持久化
- 使用gradio框架实现前端展示
施工中......