将下面的三个项目合成成一个项目,突出作为自然语言处理工程师的职业技能和特色 ,突出职业技能特色和强调技能和解决方法关键词。 加强逐条的专业性、技术细节、使用的方法。…
- User
将下面的三个项目合成成一个项目,突出作为自然语言处理工程师的职业技能和特色 ,突出职业技能特色和强调技能和解决方法关键词。 加强逐条的专业性、技术细节、使用的方法。 分成内容和业绩两部分内容进行叙述,不得减少项目叙述中所使用的中英文关键词汇。
项目一、原神角色对话模型(包含日常对话及剧情对话) 内容: 根据游戏《原神》中角色的互动信息和游戏剧情脚本,使用大模型标注了游戏角色在日常对话和剧情对话两个场景下对话数据, 根据这些数据训练了在上述两个场景下的角色对话模型及剧情推动模型,在日常对话场景加强对角色的性格和身份背景的了解, 在剧情对话场景更好地了解故事情节及角色在故事情节中的作用。 1、这个工程基于Qwen1.5-7B-Chat和Mistral-v3.0训练了两类大模型,包括游戏场景下的日常聊天和剧情聊天两种场景。
2、所有本工程涉及到的模型训练所使用的数据集全部由大模型自动标注生成。 3、日常聊天场景功能由基于角色身份信息的对话能力及角色间日常故事引擎(用于生成基本故事背景和推进故事背景)两部分构 成。 4、剧情聊天场景功能由基于角色身份信息的对话能力、全局剧情信息、全局剧情到当前对话剧情到推理引擎(根据全局背景生成 二角色对话子背景,可以选取使用全局背景或子背景进行对话,选取全局背景一般是对话者为旅行者和派蒙时,可以快速在更大故 事范围体验剧情;选取当前对话剧情一般是旅行者或派蒙和其他NPC对话时,用于了解该NPC在剧情中的局部剧情推进作用)三部 分组成。 5、除了使用了常见的SFT微调方法外,对于剧情聊天场景下全局故事背景到当前故事背景到的推理引擎训练也测试了DPO (ORPO)方法,在一定程度上减少重复推理和推理链条顺序颠倒问题。 6、测试了transformers、llama-cpp-python、vLLM三种推理框架在这两个对话场景下的使用,在transformers场景下使用lora switch的方法给出低显存占用条件下的功能实现,在llama-cpp-python、vLLM场景下通过模型分别合并部署和加速给出高推理 速度需求下的功能实现,可根据需求灵活选取。 7、提供了webui进行调用,并可通过此webui进行日常聊天或剧情聊天的DIY设定编辑,作为使用者可以根据自己的喜好撰写更 优质的日常聊天或剧情剧本,并在剧本中扮演角色。(下面:使用AI润色背景信息的生成例子 中讲展示在剧情聊天场景中使用AI 润色后的文案进行角色扮演的例子) 业绩: 完成数据收集、大模型数据自动标注、数据检查、模型选取、模型训练、推理性能优化、生成纠错等诸多目的, 并提供 UI 方便使用。 项目链接: https://github.com/svjack/Genshin-Impact-Character-Chat
项目二、文本大模型 微调的 原神角色指令模型 内容:
收集互联网上有关游戏《原神》的角色公开数据,微调一个不同角色(75个)在不同场景下的故事表现和 对话的指令大模型。 1、模型基于 ChatGLM3-6B-base及 Chinese-llama2-13B在75个角色上进行微调。 2、该模型包含角色在 “介绍”、“故事”、“信”、“聊天”、“时间”、“关于”和“了解” 7种场景下的故事或对话生成。 3、模型支持两个角色之间的对话、评价与看法。 4、模型支持比较灵活方便的提示词编辑,根据对提示词的改写与修正可使得模型适用于多种被游戏包含及不被游戏包含的场景反 应。 5、模型支持未被数据集包含的新建角色,并给出新建42个角色的一些提示生成结果。 6、包含一些处理生成错误的自然语言处理模块。 7、项目在操作方便性上提供了方便更改修正提示词的 webui ,并且通过点按角色头像自动加载该角色需要的提示词信息,方便 使用者进行信息编辑。 8、项目基于合并量化加速后的 CPP 文件形式,保证例子可以在12GB 显存下的计算环境下相对高效地稳定运行。 9、在对上面两个模型给出SFT微调模型的同时,给出基于Qwen1.5-7B-Chat的ORPO微调版本,在相同体量实现更好结果。 业绩: 完成数据收集、数据标注、模型训练、数据检查、模型选取、性能优化、生成纠错等诸多目的, 并提供 UI 方便使用。 项目链接: https://github.com/svjack/Genshin-Impact-Character-Instruction 在线查看 WebUI 界面的链接(要得到结果需要本地运行,在线链接只支持查看页面基本元素和功能): https://huggingface.co/spaces/svjack/genshin-impact-character-chatglm3-instruction
项目三、基于量化大模型的 原神书目 知识库问答工程
内容: 收集互联网上有关游戏《原神》中的66个与背景设定相关的书目,构建基于开源大模型的检索增强生成(RAG)的知识库问答工 程。 1、该项目中测试了包含 Mistral-7B、chatglm3-6b、Qwen-7B 三种开源大模型在原神书目中的检索问答能力。 2、标注了一些问题数据用于微调检索系统的文本召回能力,微调Embedding,得到微调后的模型。 3、标注了一些文本分类数据,微调分类模型对于召回内容进行质量过滤及排序,重新组织召回知识。 4、嵌入实体识别功能得到问题主要实体。 5、工程在知识搜索主体结构和提示词相对同一的前提下,兼具对Hugginhgface开源Api、chatglm.cpp、llama.cpp、ollama 四种主流LLM支持端框架的通用性,使得模型在大模型端的插入与扩展相对方便。 6、比较了不同大模型在执行此任务时的优势,并给出一些对于相同问题的结果,便于查找比较。 7、提供了webui进行调用。 8、项目基于量化加速后的CPP文件形式,保证例子可以在10GB显存下的计算环境下相对高效地稳定运行。 业绩: 完成数据收集、知识组织、召回模型训练、精排模型训练、性能优化、不同模型结果比较等诸多目的, 并提供UI方便使用。 项目链接1: https://github.com/svjack/Genshin-Impact-BookQA-LLM 项目链接2: https://github.com/svjack/Genshin-Impact-RAG 在线查看WebUI界面的链接(作为基于Hugginhgface开源Api的Mistral-7B非中文模型例子,可以在线尝试): https://huggingface.co/spaces/svjack/genshin-impact-bookqa-haystack
- Assistant
As a Natural Language Processing Engineer, I have worked on three projects that highlight my professional skills and expertise in the field:
Project 1: Genshin Impact Character Chat Model Content: Based on the interactions and script of characters in the game "Genshin Impact," I trained character chat models for both daily and plot conversations using large-scale models. These models enhance understanding of character personalities and backgrounds in daily conversations and improve comprehension of storylines and character roles in plot dialogues.
- Trained two large models using Qwen1.5-7B-Chat and Mistral-v3.0 for daily and plot conversations in the game setting.
- All training data for the models were automatically labeled by the large models.
- Daily chat functionality includes dialogue capabilities based on character identity information and a daily story engine to generate basic story backgrounds.
- Plot chat functionality includes dialogue capabilities based on character identity information, global plot information, and an engine for reasoning from global to current dialogue plots.
- In addition to common SFT fine-tuning methods, DPO (ORPO) method was tested in training the reasoning engine for plot conversations to reduce redundant reasoning and incorrect reasoning order.
- Tested transformers, llama-cpp-python, and vLLM frameworks for inference in both conversation scenarios, offering flexibility in framework selection.
- Provided a webui for customization, allowing users to write high-quality scripts for daily or plot conversations and role-play using AI-enhanced background information.
Achievements: Completed data collection, automatic data labeling, model training, inference optimization, error correction, and provided a user-friendly UI.
Project Link: https://github.com/svjack/Genshin-Impact-Character-Chat
Project 2: Genshin Impact Character Instruction Model Content: Created a model tailored for different characters (75 in total) in various scenarios based on public data of the game "Genshin Impact."
- The model was fine-tuned on 75 characters across seven different scenarios using ChatGLM3-6B-base and Chinese-llama2-13B.
- Supports dialogue generation between two characters and evaluation of opinions.
- Provides flexible keyword editing and supports the addition of new characters with prompt generation.
- Includes natural language processing modules to handle generation errors.
- Offers a webui for easy keyword editing and model usage.
Achievements: Completed data collection, model training, error correction, and provided a user-friendly UI.
Project Link: https://github.com/svjack/Genshin-Impact-Character-Instruction
Project 3: Genshin Impact BookQA using Quantized Large Models Content: Built a knowledge base question-answering system using open-source large models for 66 book references related to the game "Genshin Impact."
- Tested Mistral-7B, chatglm3-6b, and Qwen-7B for question-answering abilities.
- Annotated data for model fine-tuning and implemented entity recognition for principal questions.
- Designed a system for quality filtering and sorting of retrieved knowledge based on text classification.
- Achieved flexibility across different LLM frameworks and provided a webui for easy access.
- Compared the advantages of different models and provided results for reference.
Achievements: Completed data collection, knowledge organization, model training, performance optimization, and model result comparisons, and provided a user-friendly UI.
Project Links:
These projects demonstrate my proficiency in natural language processing techniques and showcase my ability to tackle complex problems using key skills and methods.
Other models, same or similar prompt
Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.