【AI】AIService(基本使用与指令定制)

文章目录

  • 【AI】AIService(基本使用与指令定制)
    • 1. 简介
    • 2. @AIService
      • 2.1 引入依赖
      • 2.2 编写AIService接口
      • 2.3 测试代码
    • 3. 指令定制
      • 3.1 系统提示词
      • 3.2 用户提示词

1. 简介

AIService可以被视为应用程序服务层的一个组件,提供对应的ai服务,所以被称为AIService,它能够帮助我们完成一些复杂的ai操作:

  • 为模型格式化输入内容
  • 解析模型的输出结果
  • 聊天记忆Chat Memory
  • 工具 Tools
  • 检索增强生成RAG

同时AIService有两种使用方式,一种需要手动装配,另一种通过 @AIService 注解即可调用,后面的文章我们都使用 @AIService 来进行讲解。

2. @AIService

@AIService可以添加在服务类上,然后实现组件在AI服务中的自动装配,支持以下常用组件:

  • ChatModel:指定聊天模型
  • StreamingChatModel:流式响应聊天模型
  • ChatMemory:聊天记忆(内存存储)
  • ChatMemoryProvider:分离记忆聊天(可指定存储位置)
  • Tools:可自定义接口服务然后进行调用

以上不同的组件会在后续的文章中讲解,接下来完成对AIService的初步使用:

2.1 引入依赖

<dependency><groupId>dev.langchain4j</groupId><artifactId>langchain4j-spring-boot-starter</artifactId>
</dependency>

2.2 编写AIService接口

import dev.langchain4j.service.spring.AiService;
import static dev.langchain4j.service.spring.AiServiceWiringMode.EXPLICIT;@AiService(wiringMode = EXPLICIT, chatModel = "qwenChatModel")
public interface Assistant {String chat(String userMessage);
}

其中AIService带了两个参数,wiringMode默认为AiServiceWiringMode.EXPLICIT,即自动装配chatModel,框架会自己去自动装配IOC容器中已有的chatModel,而chatModel参数代表这里我们指定了模型qwenChatModel

2.3 测试代码

可以注解将Assistant注入进测试代码进行调用:

@Autowired
private Assistant assistant;@Test
public void testAssistant() {String answer = assistant.chat("你是谁");System.out.println(answer);
}

执行结果:

我是Qwen,这是我的英文名,中文名叫通义千问。我是阿里云自主研发的超大规模语言模型,能够回答问题、创作文字,还能表达观点、撰写代码。如果您有任何问题或需要帮助,请随时告诉我,我会尽力提供支持。

这样AIService就引入成功了!

3. 指令定制

在将我们的提示词交给ai去解析之前,我们可以通过一些特定的注解,来完成对指令提示词的重新定制

3.1 系统提示词

@AiService(wiringMode = EXPLICIT, chatModel = "qwenChatModel")
public interface Assistant {@SystemMessage("你是我的好朋友小明,请用粤语回答我的问题。 ")String chat(String userMessage);
}

在chat方法上添加@SystemMessage注解,该注解内部内容将会被转换成SystemMessage对象,并于UserMessage一起发给LLM(大语言模型),且会在用户提示词之前提交给模型,相当于给此时的模型回复加上一个角色设定要求定制*,此时再问ai你是谁,回复会有所改变:

在这里插入图片描述

如果你需要定制的要求内容较多,也可以将其存储在一个资源文件中让@SystemMessage去读取:

@AiService(wiringMode = EXPLICIT, chatModel = "qwenChatModel")
public interface Assistant {@SystemMessage(fromResource = "myPrompt.txt")String chat(String userMessage);
}@Test
public void testAssistant()String answer = assistant.chat("你知道故宫吗?");System.out.println(answer);
}

文件内容如下:

在这里插入图片描述

执行结果:
在这里插入图片描述

@SystemMessage的内容只会在这次记忆中给模型发送一次,但效果会在这次记忆中一直延伸。

3.2 用户提示词

@UserMessage能够将方法参数嵌入到预定义的提示结构中,例如:

@UserMessage("你是谁,猜猜{{it}}") 
String chat(String userMessage);@Test
public void testAssistant()String answer = assistant.chat("我是谁");System.out.println(answer);
}

这里的{{it}}表示这里唯一参数的占位符,使用@UserMessage会将我们的提供给ai的提示词信息嵌入到对应的占位符中,如上述的“我是谁”将转变为:

你是谁,猜猜我是谁

执行结果如下:

在这里插入图片描述

如果用户提供的参数不止一个,则需要使用@V来结合使用:

@UserMessage("我的名字是{{name}},今年{{age}}岁,请用天津话回答问题。{{it}}")
String chat(@V("age") String age, @V("name") String name, @V("it") String userMessage);@Test
public void testAssistant() {String answer = assistant.chat("18", "李明", "我是谁");System.out.println(answer);
}// 用户的提问内容会被转变为:我的名字是李明,今年18岁,请用天津话回答问题。我是谁

执行结果:

在这里插入图片描述

同时@V也可作用于@SystemMessage

@SystemMessage(fromResource = "myPrompt.txt")
String chat(@V("age") String age, @V("name") String name, @UserMessage String userMessage);@Test
public void testAssistant() {String answer = assistant.chat("20", "天天", "你那里有什么特色美食吗");System.out.println(answer);
}

文件内容:

在这里插入图片描述

执行结果:

在这里插入图片描述

:这里需要做好对@SystemMessage和@UserMessage的区分,最直接的区别就是:@SystemMessage的内容会单独优先发一条信息给模型,而@UserMessage则是将用户提供的prompt与@UserMessage的内容结合起来然后一起发给模型,所以二者还是有区别的!

以上便是对AIService(基本使用与指令定制)的介绍与使用了,如果上述内容对大家有帮助的话请给一个三连关注吧💕( •̀ ω •́ )✧✨

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:http://www.pswp.cn/web/91720.shtml
繁体地址,请注明出处:http://hk.pswp.cn/web/91720.shtml
英文地址,请注明出处:http://en.pswp.cn/web/91720.shtml

如若内容造成侵权/违法违规/事实不符,请联系英文站点网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

AAAI赶稿后的心得

总结 已经第三次和老师们一起赶稿了&#xff0c;但是还是纰漏重重&#xff0c;每次都被我的垃圾写作给吓到。每次都手忙脚乱找不到重点&#xff0c;唉&#xff0c;我大概这辈子都成为不了郭老师&#xff1a; 自己把故事先捋清楚&#xff1a; 所有的东西都要抽象出来&#xff0c…

书籍推荐算法研究

## 项目概述本项目是一个完整的书籍推荐系统第五版(Complete Book Recommendation System V5),采用混合推荐策略,能够处理6种不同的用户场景,提供智能化的书籍推荐服务。## 系统架构### 核心设计思路系统采用**混合推荐策略**,结合了以下几种推荐算法:1. **协同过滤推荐…

工具自动生成Makefile

cmake 基础 cmake主要是生成Makefile&#xff0c;以便工程管理&#xff0c;只需要编写CMakeLists.txt安装camkesudo apt install cmake 安装cmake camke --version 查看cmake版本 sudo apt upgrade cmake 升级cmake源码隔离 在工程文件下创建一个build文件&…

Java项目:基于SSM框架实现的校园活动资讯网管理系统【ssm+B/S架构+源码+数据库+毕业论文+远程部署】

摘 要 使用旧方法对校园活动资讯进行系统化管理已经不再让人们信赖了&#xff0c;把现在的网络信息技术运用在校园活动资讯的管理上面可以解决许多信息管理上面的难题&#xff0c;比如处理数据时间很长&#xff0c;数据存在错误不能及时纠正等问题。 这次开发的校园活动资讯网…

关于echarts的性能优化考虑

作为资深前端工程师&#xff0c;在处理 ECharts 性能问题时&#xff0c;核心思路是减少渲染压力、优化数据处理、避免不必要的计算&#xff0c;尤其在大数据量&#xff08;万级以上&#xff09;、高频交互或多图表场景下&#xff0c;性能优化尤为关键。以下是实战中验证过的有效…

汽车EDI:Vitesco EDI 项目案例

Vitesco Technologies&#xff08;纬湃科技&#xff09;脱胎于大陆集团的动力总成部门&#xff0c;是一家于2021年上市的全球领先汽车技术供应商。公司专注于电动出行领域&#xff0c;提供电驱动系统、电池管理系统、功率电子及热管理等关键技术解决方案。同时&#xff0c;其业…

译|Netflix 技术博客:一个利用视觉-语言模型和主动学习高效构建视频分类器的框架

本篇介绍了Netflix的视频标注器&#xff08;VA&#xff09;&#xff0c;一个利用视觉-语言模型和主动学习的交互式框架。其技术亮点在于通过人机协作系统&#xff0c;结合零样本能力和主动学习&#xff0c;引导领域专家高效标注视频数据&#xff0c;显著提升了模型样本效率和平…

前端应用权限设计面面观

目录 1. 权限设计:前端为啥要操这份心? 2. 权限模型的“内功心法”:RBAC 和 ABAC RBAC:简单粗暴的角色分配 ABAC:灵活但烧脑的属性控制 3. 权限数据的“物流体系”:从后端到前端的旅程 权限数据从哪儿来? 权限数据咋存? 权限数据咋用? 4. 路由守卫:权限的“第…

Javaweb————Apache Tomcat服务器介绍及Windows,Linux,MAC三种系统搭建Apache Tomcat

&#x1f3cd;️&#x1f3cd;️&#x1f3cd;️第一部分&#xff1a;什么是服务器&#xff1f; 服务器是远程的一个电脑,里面安装服务器程序监听对应的端口对外提供服务&#xff0c;可以根据用户的请求去获取对应的数据并返回给调用方。 &#x1f3cd;️&#x1f3cd;️&#…

winsock socket通讯为什么UDP服务器无法获取客户端IP?

针对VB6 Winsock开发中UDP服务器无法获取客户端IP的问题&#xff0c;以下是系统性排查方案&#xff1a; 一、基础协议特性确认UDP无连接特性 Winsock的UDP协议本身是无连接的&#xff0c;需通过GetPeerName方法主动获取对端IP&#xff0c;而非自动存储。数据接收处理 必须在Dat…

大模型时代,Transformer 架构中的核心注意力机制算法详解与优化实践

大模型时代&#xff0c;Transformer 架构中的核心注意力机制算法详解与优化实践Transformer 注意力机制深度解析与工业级优化实践一、注意力机制核心原理1.1 基础注意力公式1.2 多头注意力&#xff08;Multi-Head&#xff09;1.3 注意力机制可视化二、工业级优化技术2.1 计算效…

自学嵌入式 day40 51单片机

一、嵌入式&#xff1a;以应用为中心&#xff0c;计算机为基础&#xff0c;软硬件可剪裁的专用计算机系统二、MCU&#xff1a;Micro Controcler Unit 微控制单元->单片机1、特点&#xff1a;集成化高&#xff0c;集成到一块芯片外设&#xff08;GPIO、UART、ADC&#xff09;…

Minimizing Coins(Dynamic Programming)

题目描述Consider a money system consisting of n coins. Each coin has a positive integer value. Your task is to produce a sum of money x using the available coins in such a way that the number of coins is minimal. For example, if the coins are {1,5,7} and t…

Kafka——关于Kafka动态配置

引言在Kafka的运维实践中&#xff0c;参数配置的调整曾是一件令工程师头疼的事情。传统模式下&#xff0c;Broker的所有参数都需要在server.properties中静态定义&#xff0c;任何修改都必须重启Broker才能生效。对于承载着核心业务的生产集群而言&#xff0c;频繁重启不仅意味…

MSQL-聚簇索引与非聚簇索引的比较

聚簇索引详解InnoDB 的聚簇索引特性表数据本身就是聚簇索引&#xff1a;数据行实际存储在聚簇索引的叶子节点中"表就是索引&#xff0c;索引就是表"的结构每个InnoDB表有且只有一个聚簇索引聚簇索引的叶子节点存储的是&#xff1a;真实数据主键作为聚簇索引&#xff…

语音识别数据集

目录 Voice Activity Detection 自己采集&#xff1a; 1. ASR Resources&#xff08;语音识别资源&#xff09; 2. LM Resources&#xff08;语言模型资源&#xff09; 这是一个数据表&#xff1a; 噪声数据集&#xff1a; Voice Activity Detection 自己采集&#xff1a…

Linux线程同步与互斥(上)

目录 前言 1.互斥 1.先来见一种现象&#xff08;数据不一致问题&#xff09; 2.如何解决上述问题 3.理解为什么数据会不一致&&认识加锁的接口 4.理解锁 5.锁的封装 前言 在前面对线程的概念和控制的学习过程中&#xff0c;我们知道了线程是共享地址空间的&#…

Codeforces Global Round 27

ABC 略D将每个数拆成x*2的整数次幂&#xff0c;一个直接的想法是尽量把2的整数次幂给大的数。那么所有乘上2的整数次幂的数构成的序列单调递减&#xff0c;反证法&#xff0c;如果序列中存在i j 使得a[i]<a[j]&#xff0c;那么我们不如把给a[i]乘的2的幂给a[j]乘。#include …

深入 Go 底层原理(二):Channel 的实现剖析

1. 引言"Do not communicate by sharing memory; instead, share memory by communicating." (不要通过共享内存来通信&#xff0c;而应通过通信来共享内存。) 这是 Go 语言并发设计的核心哲学。而 channel 正是实现这一哲学的核心工具。Channel 为 Goroutine 之间的…

Golang 语言的编程技巧之类型

1、介绍Golang 语言是一门静态类型的编程语言&#xff0c;我们在编写代码时&#xff0c;为了提升代码的灵活性&#xff0c;有时会使用空接口类型&#xff0c;对于空接口类型的变量&#xff0c;一般会通过类型断言判断变量的类型&#xff0c;而且可能还会遇到遇到类型转换的场景…