假如我现在有多个大模型,如何用gradio将前一个模型生成的内容 当作下一个模型的输入,同时我还能输入一些参数,或者上传文件下载文件等
- User
假如我现在有多个大模型,如何用gradio将前一个模型生成的内容 当作下一个模型的输入,同时我还能输入一些参数,或者上传文件下载文件等
Assistant
这是一个很好的多模型串联场景。我来展示如何用Gradio实现这种工作流:
基础多模型串联示例
import gradio as gr import pandas as pd # 模拟的模型函数 def model1(text, temperature): # 第一个模型的处理逻辑 result = f"Model1 处理了: {text} (温度: {temperature})" return result def model2(input_text, style): # 第二个模型的处理逻辑 result = f"Model2 基于 [{input_text}] 生成了内容,风格: {style}" return result def model3(input_text, file_data): # 第三个模型的处理逻辑 if file_data is not None: # 处理上传的文件 file_info = f",并结合了文件数据" else: file_info = "" result = f"Model3 最终处理: [{input_text}]{file_info}" return result # 使用Blocks构建界面 with gr.Blocks() as demo: gr.Markdown("# 多模型串联处理系统") with gr.Tab("步骤1: 第一个模型"): with gr.Row(): input1 = gr.Textbox(label="输入文本", placeholder="请输入初始文本") temp_slider = gr.Slider(0, 1, value=0.7, label="温度参数") output1 = gr.Textbox(label="Model1 输出") btn1 = gr.Button("运行 Model1") with gr.Tab("步骤2: 第二个模型"): input2 = gr.Textbox(label="输入 (可从Model1复制)", placeholder="粘贴或输入文本") style_dropdown = gr.Dropdown(["正式", "轻松", "学术"], label="风格选择") output2 = gr.Textbox(label="Model2 输出") btn2 = gr.Button("运行 Model2") # 添加一个按钮来自动传递上一步的输出 copy_btn = gr.Button("使用Model1的输出") with gr.Tab("步骤3: 第三个模型"): input3 = gr.Textbox(label="输入 (可从Model2复制)") file_upload = gr.File(label="上传补充文件 (可选)") output3 = gr.Textbox(label="Model3 最终输出") btn3 = gr.Button("运行 Model3") # 下载结果按钮 download_btn = gr.Button("下载结果") file_output = gr.File(label="下载文件") # 定义交互逻辑 btn1.click(model1, inputs=[input1, temp_slider], outputs=output1) btn2.click(model2, inputs=[input2, style_dropdown], outputs=output2) btn3.click(model3, inputs=[input3, file_upload], outputs=output3) # 自动传递输出到下一步 copy_btn.click(lambda x: x, inputs=output1, outputs=input2) # 下载功能 def save_result(text): # 保存结果到文件 with open("result.txt", "w", encoding="utf-8") as f: f.write(text) return "result.txt" download_btn.click(save_result, inputs=output3, outputs=file_output) demo.launch()更高级的自动串联版本
import gradio as gr import json import time class ModelPipeline: def __init__(self): self.intermediate_results = {} def model1(self, text, param1): # 模拟处理时间 time.sleep(1) result = { "text": f"Model1处理: {text}", "metadata": {"param1": param1} } self.intermediate_results["model1"] = result return result["text"] def model2(self, use_previous, custom_input, param2): if use_previous and "model1" in self.intermediate_results: input_text = self.intermediate_results["model1"]["text"] else: input_text = custom_input time.sleep(1) result = { "text": f"Model2处理: {input_text} (参数2: {param2})", "metadata": {"param2": param2} } self.intermediate_results["model2"] = result return result["text"] def model3(self, use_previous, custom_input, uploaded_file): if use_previous and "model2" in self.intermediate_results: input_text = self.intermediate_results["model2"]["text"] else: input_text = custom_input file_content = "" if uploaded_file is not None: with open(uploaded_file.name, 'r', encoding='utf-8') as f: file_content = f.read()[:100] # 读取前100个字符 time.sleep(1) final_result = f"最终结果: {input_text}\n文件内容预览: {file_content}" return final_result pipeline = ModelPipeline() with gr.Blocks() as demo: gr.Markdown("# 自动化多模型处理流水线") with gr.Row(): with gr.Column(scale=1): gr.Markdown("### 输入配置") initial_input = gr.Textbox(label="初始输入", lines=3) gr.Markdown("### Model 1 参数") param1 = gr.Slider(0, 10, value=5, label="参数1") gr.Markdown("### Model 2 参数") use_prev_2 = gr.Checkbox(label="使用Model1的输出", value=True) custom_input_2 = gr.Textbox(label="自定义输入 (如果不使用上一步)", visible=False) param2 = gr.Dropdown(["选项A", "选项B", "选项C"], label="参数2") gr.Markdown("### Model 3 参数") use_prev_3 = gr.Checkbox(label="使用Model2的输出", value=True) custom_input_3 = gr.Textbox(label="自定义输入 (如果不使用上一步)", visible=False) file_input = gr.File(label="上传文件") run_all_btn = gr.Button("运行完整流水线", variant="primary") with gr.Column(scale=2): gr.Markdown("### 处理结果") output1 = gr.Textbox(label="Model 1 输出", lines=3) output2 = gr.Textbox(label="Model 2 输出", lines=3) output3 = gr.Textbox(label="Model 3 输出", lines=5) # 导出选项 with gr.Row(): export_json_btn = gr.Button("导出JSON") export_txt_btn = gr.Button("导出文本") download_file = gr.File(label="下载结果") # 显示/隐藏自定义输入 use_prev_2.change( lambda x: gr.update(visible=not x), inputs=use_prev_2, outputs=custom_input_2 ) use_prev_3.change( lambda x: gr.update(visible=not x), inputs=use_prev_3, outputs=custom_input_3 ) # 运行完整流水线 def run_pipeline(initial, p1, use_p2, custom2, p2, use_p3, custom3, file): # 运行Model 1 out1 = pipeline.model1(initial, p1) yield out1, "", "" # 运行Model 2 out2 = pipeline.model2(use_p2, custom2, p2) yield out1, out2, "" # 运行Model 3 out3 = pipeline.model3(use_p3, custom3, file) yield out1, out2, out3 run_all_btn.click( run_pipeline, inputs=[initial_input, param1, use_prev_2, custom_input_2, param2, use_prev_3, custom_input_3, file_input], outputs=[output1, output2, output3] ) # 导出功能 def export_json(out1, out2, out3): data = { "model1_output": out1, "model2_output": out2, "model3_output": out3, "intermediate_results": pipeline.intermediate_results } with open("results.json", "w", encoding="utf-8") as f: json.dump(data, f, ensure_ascii=False, indent=2) return "results.json" def export_txt(out1, out2, out3): content = f"""=== Model Pipeline Results === Model 1 Output: {out1} Model 2 Output: {out2} Model 3 Output: {out3} """ with open("results.txt", "w", encoding="utf-8") as f: f.write(content) return "results.txt" export_json_btn.click( export_json, inputs=[output1, output2, output3], outputs=download_file ) export_txt_btn.click( export_txt, inputs=[output1, output2, output3], outputs=download_file ) demo.launch()关键特性说明
这个实现包含了以下功能:
- 模型串联:每个模型的输出可以自动传递给下一个模型
- 参数控制:每个模型都有自己的参数设置
- 灵活输入:可以选择使用上一步的输出或自定义输入
- 文件处理:支持上传文件作为额外输入
- 结果导出:可以导出JSON或文本格式的结果
- 实时更新:使用yield实现流式输出,显示处理进度
你可以根据实际需求调整模型函数、参数类型和界面布局。这个框架很容易扩展到更多模型和更复杂的处理流程。
Other models, same or similar prompt
Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.