当前位置: 首页 > news >正文

使用Semantic Kernel:对DeepSeek添加自定义插件

SemanticKernel介绍

Semantic Kernel是一个SDK,它将OpenAI、Azure OpenAI等大型语言模型与C#、Python和Java等传统编程语言集成在一起。Semantic Kernel通过允许您定义插件来实现这一点。

为什么需要添加插件?

大语言模型虽然具有强大的自然语言理解和生成能力,但它们通常是基于预训练的模型,其功能受限于训练时所接触的数据和任务。为大语言模型添加插件是为了扩展其功能、提高其灵活性和实用性。比如你问一个大语言模型今天是几号?它无法提供实时信息甚至会出现幻觉,这时候插件就派上用场了。

实践

插件分为提示词插件与本地函数插件,本次示例用的是本地函数。创建一个FunctionTest类:

public class FunctionTest
{[KernelFunction, Description("获取当前的时间")]public object GetCurrentTime(){return DateTime.Now.ToString("yyyy-MM-dd HH:mm:ss");}[KernelFunction, Description("获取城市的天气状况")]public object GetWeather([Description("城市名称")] string CityName, [Description("查询时段,值可以是[白天,夜晚]")] string DayPart){return new { CityName, DayPart, CurrentCondition = "多云", LaterCondition = "阴", MinTemperature = 19, MaxTemperature = 23 };}
}

在 Semantic Kernel 中,[KernelFunction] 特性用于标记类中的方法,表明这些方法应当被包含为 Microsoft.SemanticKernel.KernelFunction 实例,并作为技能操作添加到通过Semantic Kernel生成的 Microsoft.SemanticKernel.KernelPlugin 中。 [Description]特性用于为类、方法、属性等添加描述信息。

在kernel中加入这个插件:

public async void Initialize_OpenAI(){var builder = Kernel.CreateBuilder();#pragma warning disable SKEXP0010builder.AddOpenAIChatCompletion(modelId: "Qwen/Qwen2.5-32B-Instruct", endpoint: new Uri("https://api.siliconflow.cn/v1"), apiKey: "");#pragma warning restore SKEXP0010//这里我们需要插入之前定义的插件builder.Plugins.AddFromType<FunctionTest>();Kernel kernel = builder.Build();//创建系统提示词var prompt = "如果使用函数调用,请确保输出是JSON格式。返回的JSON包含function字段和arguments字段,前者的内容是需要使用的函数的名称,后者的内容是函数所需参数的名称。样例:{\"function\":\"funcName\",\"arguments\":{\"propName\":\"propValue\"}};否则,输出应该是文本格式。";//定义一个对话历史ChatHistory history = new ChatHistory();//添加系统提示词history.AddSystemMessage(prompt);//创建一个对话服务实例var chatService = kernel.GetRequiredService<IChatCompletionService>();while (true){Console.Write("User:");var input = Console.ReadLine();if (string.IsNullOrWhiteSpace(input)){break;}history.AddUserMessage(input);//打开提示执行设置OpenAIPromptExecutionSettings executionSettings = new OpenAIPromptExecutionSettings(){Temperature = 0.6,ToolCallBehavior = ToolCallBehavior.AutoInvokeKernelFunctions  };var chatmessage = await chatService.GetChatMessageContentAsync(history, executionSettings: executionSettings, kernel: kernel);var contents = chatmessage.ToString() ?? "";Console.WriteLine($"AssistantM: {contents}");history.AddMessage(chatmessage.Role, contents); }}

在C#中使用Semantic Kernel时,如果遇到大模型不支持直接调用函数的情况,可以通过手动调用自定义插件的方式来绕过这个限制。这种方式不仅增强了模型的灵活性,还允许开发者根据需要定制化服务。

硅基流动统一登录获取免费Tokens,注册完成新建自己的API秘钥,在apiKey填入秘钥既可以调用大模型了


http://www.mrgr.cn/news/92741.html

相关文章:

  • 【AI深度学习基础】NumPy完全指南入门篇:核心功能与工程实践(含完整代码)
  • 工程化与框架系列(4)--Webpack 高级配置详解
  • 大模型WebUI:Gradio全解12——LangChain原理、架构和组件(2)
  • 【Linux第一弹】Linux基础指令(上)
  • BIO、NIO、AIO、Netty从简单理解到使用
  • 【DeepSeek】本地部署,保姆级教程
  • Python 数据结构 2.时间复杂度和空间复杂度
  • 工程化与框架系列(10)--微前端架构
  • 【零基础C语言】第二节 数据类型、运算符、表达式
  • 蓝桥杯 之 填空题-位运算与循环
  • Linux云计算SRE-第十五周
  • 【deepseek第一课】从0到1介绍 采用ollama安装deepseek私有化部署,并实现页面可视化
  • C语言32个关键字
  • 【C++编程探索】01前缀和来临!优点多多!八千字详解
  • 我的AI工具箱Tauri+Django环境开发,支持局域网使用
  • AI关于SHAP分析与列线图(算法)解释线性模型矛盾之处的解释
  • QT异步编程之线程池QThreadPool
  • 网络流算法: Edmonds-Karp算法
  • 【算法方法总结·一】二分法的一些技巧和注意事项
  • PyQT(PySide)的上下文菜单策略设置setContextMenuPolicy()