AI驱动的Java开发框架：Spring AI Alibaba实战部署教程

前言

随着生成式 AI 的快速发展，基于 AI 开发框架构建 AI 应用的诉求迅速增长，涌现出了包括 LangChain、LlamaIndex 等开发框架，但大部分框架只提供了 Python 语言的实现。但这些开发框架对于国内习惯了 Spring 开发范式的 Java 开发者而言，并非十分友好和丝滑。
因此，我们基于 Spring AI 发布并快速演进 Spring AI Alibaba，通过提供一种方便的 API 抽象，帮助 Java 开发者简化 AI 应用的开发。同时，提供了完整的开源配套，包括可观测、网关、消息队列、配置中心等。
——阿里云云原生微服务技术负责人，Spring AI Alibaba 发起人彦林

在这里插入图片描述
无意间看到关于彦林老师在刚刚结束的2024云栖大会上关于Spring AI Alibaba的汇报，由于我在校期间会经常使用LangChain框架基于Python语言搭建智能体应用，结合本人现在也从事Java研发工作，对这种基于Spring开发范式搭建AI应用的框架非常感兴趣，于是结合现有公开的资料，完成了基于Spring AI Alibaba的demo项目部署工作，记录一些踩的坑，欢迎感兴趣的同学一起研究学习。

声明：本文涉及的链接、图片、代码及相关资料均从公开渠道获取或为个人知识积累，请勿未经本人允许随意复制转载！

资源地址

  • Spring AI Alibaba官网
  • Spring AI Alibaba项目地址
  • 阿里云百炼平台

简介

帮助Java开发者快速构建AI原生智能体应用

Spring AI Alibaba是什么？

Spring Al Alibaba开源项目基于Spring Al构建，是阿里云通义系列模
型及服务在Java Al应用开发领域的最佳实践，提供高层次的AI API抽
象与云原生基础设施集成方案，帮助开发者快速构建AI应用。

Spring AI Alibaba提供哪些能力？

  • 专属Spring开发者的Al框架：基于Spring Al官方开源项目，原生支持Spring Boot体系，为你的Bean带来生成式Al能力。
  • Model，Prompt，RAG，Tools：兼具提示词模板、函数调用、格式化输出等低层次抽象与RAG、智能体、对话记忆等高层次抽象。
  • 阿里云大模型与云原生最佳实践：通义系列AI模型驱动，深度集成云原生API网关、模版管理、Serverless、可观测等云原生应用基础设施。

Spring AI Alibaba架构图

在这里插入图片描述

Spring AI Alibaba未来规划

  • Prompt Template管理
  • 事件驱动的AI应用程序
  • 更多Vector Database支持
  • 函数计算等部署模式
  • 可观测性建设
  • AI代理节点开发能力，如滤网、限流、多模型切换等
  • 开发者工具集

实战部署

一、下载项目

  • IDEA导入

在这里插入图片描述

  • 命令行导入
git clone --depth=1 https://github.com/alibaba/spring-ai-alibaba.git

二、添加依赖并注入

总的来说，使用 Spring AI Alibaba 开发应用与使用普通 Spring Boot 没有什么区别，只需要增加 spring-ai-alibaba-starter 依赖，将 ChatClient Bean 注入就可以实现与模型聊天了。

在项目中加入 spring-ai-alibaba-starter 依赖。

<dependency><groupId>com.alibaba.cloud.ai</groupId><artifactId>spring-ai-alibaba-starter</artifactId><version>1.0.0-M2</version>
</dependency>

为 Spring Bean 注入 ChatClient


@RestController
public class ChatController {private final ChatClient chatClient;public ChatController(ChatClient.Builder builder) {this.chatClient = builder.build();}@GetMapping("/chat")public String chat(String input) {return this.chatClient.prompt().user(input).call().content();}
}

三、运行项目

1、开通模型调用服务

阿里云百炼大模型服务平台
在这里插入图片描述

2、获取合法的 API-KEY

获取API-KEY

在这里插入图片描述

3、设置 AI_DASHSCOPE_API_KEY 环境变量

# 设置环境变量
export AI_DASHSCOPE_API_KEY="REPLACE-WITH-VALID-API-KEY"
# 查看环境变量
echo ${AI_DASHSCOPE_API_KEY}

4、启动示例项目应用

./mvnw compile exec:java -Dexec.mainClass="com.alibaba.cloud.ai.example.helloworld.HelloWorldExampleApplication"

四、注意事项

问题1：zsh：command not found: mvn？

# 配置 Maven
vim ~/.bash_profileexport MAVEN_HOME=/Library/Maven/apache-maven-3.9.7
export PATH=$MAVEN_HOME/bin:$PATHsource ~/.bash_profilemvn -version

在这里插入图片描述

问题2：zsh: no such file or directory: ./mvnw？

这个错误表明在当前目录下没有找到名为 mvnw 的文件。mvnw 是 Maven Wrapper 的缩写，它是一个脚本，用于确保使用项目定义的 Maven 版本来运行 Maven 构建，而不是系统上安装的任何其他版本。

# 生成 mvnw 文件和相关的脚本
mvn clean compile
mvn wrapper:wrapper

问题3：引入spring-cloud-alibaba-ai依赖找不到？

org.springframework.ai:spring-ai-core:jar:1.0.0-M2 was not found in http://mvnrepo.alibaba-inc.com/mvn/repository during a previous attempt.

在这里插入图片描述

注意：由于 spring-ai 相关依赖包还没有发布到中央仓库，如出现 spring-ai-core 等相关依赖解析问题，需要在项目的 pom.xml 依赖中加入如下仓库配置。

<repositories><repository><id>spring-milestones</id><name>Spring Milestones</name><url>https://repo.spring.io/milestone</url><snapshots><enabled>false</enabled></snapshots></repository><repository><id>spring-snapshots</id><name>Spring Snapshots</name><url>https://repo.spring.io/snapshot</url><releases><enabled>false</enabled></releases></repository>
</repositories>

如果maven配置了阿里云镜像，需要在maven配置文件中进行屏蔽配置：

# 修改maven配置文件
cd ~/.m2
vim settings.xml

<!--阿里云仓库-->
<!--修改：<mirrorOf>*</mirrorOf>-->
<mirror><id>aliyunmaven</id><mirrorOf>*,!spring-milestones</mirrorOf><name>阿里云公共仓库</name><url>https://maven.aliyun.com/repository/public</url>
</mirror>

问题4：JDK版本与项目Modules不一致？

com/alibaba/cloud/ai/example/helloworld/HelloWorldExampleApplication has been compiled by a more recent version of the Java Runtime (class file version 61.0), this version of the Java Runtime only recognizes class file versions up to 52.0

在这里插入图片描述

Project版本为JDK 1.8

# JVM配置
sudo vi ~/.bash_profileexport JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.8.0_291.jdk/Contents/Home
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=$JAVA_HOME/bin:$PATHsource ~/.bash_profilejava -version

在这里插入图片描述
项目Modules为JDK 17
在这里插入图片描述
启动项目需要更换Project版本为JDK 17

  • JDK17下载
    在这里插入图片描述

  • IDEA更改
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

  • 命令更改

export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk-17.0.12.jdk/Contents/Home

问题5：API-KEY无效？

org.springframework.ai.retry.NonTransientAiException: 401 - {“code”:“InvalidApiKey”,“message”:“Invalid API-key provided.”,“request_id”:“23e91a5e-9050-9cb5-a84a-f9ac931830ad”}

在这里插入图片描述

  • 检查AI_DASHSCOPE_API_KEY是否已配置
# 设置环境变量
export AI_DASHSCOPE_API_KEY="REPLACE-WITH-VALID-API-KEY"
# 查看环境变量
echo ${AI_DASHSCOPE_API_KEY}
  • 确保已开通模型调用服务，并处于主业务空间下具备API-Key权限。
    • 获取API-KEY
    • 将API-KEY配置到环境变量
    • 如何使用业务空间
    • 子业务空间的模型调用
      在这里插入图片描述

五、应用示例

在这里插入图片描述
访问本地启动链接，向通义模型提问并得到回答。

 http://localhost:8080/ai/chat?input=你是谁？

在这里插入图片描述

 http://localhost:8080/ai/chat?input=简单介绍一下阿里云？

在这里插入图片描述

参考资料

  • Spring AI Alibaba官网
  • Spring AI Alibaba项目地址
  • 阿里云百炼平台
  • Spring Cloud Alibaba专家答疑

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.xdnf.cn/news/1547806.html

如若内容造成侵权/违法违规/事实不符，请联系一条长河网进行投诉反馈，一经查实，立即删除！

相关文章

51 驱动 ADS1115 AD采集

51 驱动 ADS1115 AD采集

文章目录 一、ADS1115简介二、引脚功能三、功能介绍1.MULTIPLEXER2.量程3.数字比较器4.寄存器写入或读取时序5.数据格式 四、寄存器介绍1.地址指针寄存器2.转化数据存放寄存器3.配置寄存器4.比较器高低阈值寄存器 五、程序六、实验现象 一、ADS1115简介 ADS1115是高精度模数转…
阅读更多...
软考高级：软件架构风格 AI 解读

软考高级：软件架构风格 AI 解读

软件架构风格指的是构建软件系统时常用的一些设计模式或设计方法。它们帮助开发人员从高层次组织代码、功能模块和数据流的方式。让我们通俗地解释一下几种常见的软件架构风格。 生活化例子 假设我们在做一桌丰盛的晚餐&#xff0c;分别由不同的厨师负责炒菜、煲汤、做甜点&a…
阅读更多...
了解独享IP的概念及其独特优势

了解独享IP的概念及其独特优势

在网络世界中&#xff0c;IP地址是用来识别和定位设备的标识符。独享IP是一种服务模式。使用代理服务器时&#xff0c;用户拥有一个不与其他用户共享的专用独立IP地址。与共享IP相比&#xff0c;独享IP为用户提供了更高的独立性和隐私保护。下面详细介绍独享IP的定义、工作原理…
阅读更多...
idea 2024.2切换到旧版的UI

idea 2024.2切换到旧版的UI

在 IntelliJ IDEA 2024.2 中&#xff0c;新 UI 现在成为所有用户的默认选项&#xff0c;经典 UI 则作为插件提供。 新 UI 简洁而现代&#xff0c;提供更大、更易用的控件、一致的调色盘、明亮清晰的图标、增强的对比度和更好的强调色。 为了使用原来的旧版UI操作其实很简单&am…
阅读更多...
构建企业数字化转型的架构指南——基于TOGAF框架的实用方法论

构建企业数字化转型的架构指南——基于TOGAF框架的实用方法论

数字化转型的驱动力与挑战 随着全球经济的数字化转型加速&#xff0c;企业正面临技术、业务模式以及组织架构的深刻变革。要实现这一复杂而系统性的转型&#xff0c;仅靠引入新技术是远远不够的&#xff0c;企业必须从战略层面重塑其业务架构&#xff0c;以确保技术投资与业务…
阅读更多...
死磕P7: JVM垃圾回收那点事，轻松拿捏不是事儿（一）

死磕P7: JVM垃圾回收那点事，轻松拿捏不是事儿（一）

这是「死磕P7」系列第 003 篇文章&#xff0c;欢迎大家来跟我一起 死磕 100 天&#xff0c;争取在 2025 年来临之际&#xff0c;给自己一个交代。 上两篇介绍了 JVM 内存区域划分&#xff0c;简单记忆一下就可以了&#xff0c;后面再不断深入吧。 死磕P7: JVM内存划分必知必会…
阅读更多...
php 平滑重启 kill -SIGUSR2 ＜PID＞ pgrep命令查看进程号

php 平滑重启 kill -SIGUSR2 ＜PID＞ pgrep命令查看进程号

有时候我们使用nginx 大家都知道平滑重启命令: /web/nginx/sbin/nginx -s reload 但大家对php-fpm 重启 可能就是简单暴力的kill 直接搞起了 下面介绍一个sh 文件名保存为start_php.sh 来对php-fpm 进行平滑重启 #!/bin/bash# 检查 PHP-FPM 是否运行 if ! pgrep php-…
阅读更多...
常用并发设计模式精讲

常用并发设计模式精讲

1. 优雅终止线程的设计模式 思考&#xff1a;在一个线程 T1 中如何优雅的终止线程 T2&#xff1f; 正确思路&#xff1a;两阶段终止模式 1.1 两阶段终止&#xff08;Two-phase Termination&#xff09;模式——优雅的终止线程 两阶段终止&#xff08;Two-phase Termination…
阅读更多...
新160个crackme - 065-Eternal Bliss

新160个crackme - 065-Eternal Bliss

运行分析 选择验证方式&#xff0c;破解字符串标题提示为vb程序 PE分析 VB程序&#xff0c;32位&#xff0c;无壳 静态分析&动态调试 使用VB Decompiler进行分析&#xff0c;发现Command1_Click_403604为check按钮事件&#xff0c;需要使Me 1 CBool(expression) 将表达…
阅读更多...
CSS 中的文本相关属性（line - height、font、letter - 属性、text - 属性）

CSS 中的文本相关属性（line - height、font、letter - 属性、text - 属性）

目录 非 VIP 用户可前往公众号回复“css”进行免费阅读 line - height属性 字号与行高的取值约定 行高与盒子高度的关系 font、letter -属性 、text -属性 font属性 letter -属性 text - 属性 非 VIP 用户可前往公众号回复“css”进行免费阅读 line - height属性 字号与…
阅读更多...
SQLI—LABS刷题 | SQL总结

SQLI—LABS刷题 | SQL总结

Less1-2&#xff08;联合注入&#xff09; ?id1 查询到用户名及密码 ​​​​​​​?id1 报错&#xff1a;You have an error in your SQL syntax; check the manual that corresponds to your MariaDB server version for the right syntax to use near 1 LIMIT 0,1 at li…
阅读更多...
C++结尾

C++结尾

面试题 1.什么是虚函数&#xff1f;什么是纯虚函数 在定义函数时前面加virtual。虚函数是为了&#xff0c;父子类中只有一个该函数。如果在子类重写虚函数&#xff0c;那么用的就是子类重写的虚函数&#xff1b;如果子类没有重写虚函数&#xff0c;那么调用的是父类继承的虚函…
阅读更多...
IP地址与5G时代的万物互联

IP地址与5G时代的万物互联

5G时代&#xff0c;海量的设备将接入网络&#xff0c;从智能手机、平板电脑到智能家电、工业传感器等&#xff0c;每一个设备都需要一个独特的IP地址来进行标识和通信。可以说&#xff0c;IP地址就如同这些设备在数字世界中的“身份证”&#xff0c;确保它们能够准确地找到彼此…
阅读更多...
vue嵌套路由刷新页面空白问题

vue嵌套路由刷新页面空白问题

问题描述 在vue项目开发中遇到这样一个问题&#xff0c;在history模式下通过页面点击路由跳转可以打开页面&#xff0c;但是在当前页面刷新就空白了&#xff0c;如下&#xff1a; 点击路由跳转页面是有的 刷新页面就空白 代码 {path: "/home",name: "home&qu…
阅读更多...
PCIe6.0 AIC金手指和板端CEM连接器信号完整性设计规范

PCIe6.0 AIC金手指和板端CEM连接器信号完整性设计规范

先附上我之前写的关于PCIe5.0金手指的设计解读&#xff1a; PCIe5.0的Add-in-Card(AIC)金手指layout建议&#xff08;一&#xff09;_pcie cem-CSDN博客 PCIe5.0的Add-in-Card(AIC)金手指layout建议&#xff08;二&#xff09;_gnd bar-CSDN博客 首先&#xff0c;相较于PCI…
阅读更多...
vscode【实用插件】Code Runner 运行代码

vscode【实用插件】Code Runner 运行代码

安装 在 vscode 插件市场的搜索 Code Runner点 安装 使用 运行指定文件的代码 用 vscode 打开目标文件&#xff0c;右键快捷菜单运行即可 运行选中的代码 选中要执行的代码右键快捷菜单执行
阅读更多...
配置树莓派打开SSH服务

配置树莓派打开SSH服务

在树莓派终端中查看IP 在终端中输入命令来查看IP地址。最常用的命令是&#xff1a;hostname -I注意&#xff0c;这里的参数I是大写的&#xff0c;它表示查看本机上所有配置的IP地址&#xff08;包括IPv4和IPv6&#xff0c;如果有的话&#xff09;。如果你只需要查看IPv4地址&am…
阅读更多...
【NTN 卫星通信】基于NR的NTN RAN架构

【NTN 卫星通信】基于NR的NTN RAN架构

1 引言 3GPP中，38.821协议中，研究了如何最大限度地减少对NG-RAN中新接口和协议的需求，以支持非地面网络。 研究了包括透传星和再生星的RAN架构。 2 基于透传星的NG-RAN架构 2.1 概述： 对于透传模式，卫星有效载荷在上行链路和下行链路方向上实现频率转换和射频放大器。它…
阅读更多...
【Linux】环境变量(初步认识环境变量)

【Linux】环境变量(初步认识环境变量)

文章目录 1. 环境变量1.1 基本概念 2. 认识常见环境变量2.1 PATH2.2 HOME2.3 SHELL2.4 PWD2.5 USER 3. 理解环境变量 1. 环境变量 在main函数的命令行参数中&#xff0c;有argc、argv、env三个参数。 argc&#xff1a;命令函参数的个数argc&#xff1a;存放每个参数的具体数值…
阅读更多...
SEO之页面优化（三、四——关键词标签与正文中的关键词）

SEO之页面优化（三、四——关键词标签与正文中的关键词）

初创企业搭建网站的朋友看1号文章&#xff1b;想学习云计算&#xff0c;怎么入门看2号文章谢谢支持&#xff1a; 1、我给不会敲代码又想搭建网站的人建议 2、“新手上云”能够为你开启探索云世界的第一步 博客&#xff1a;阿幸SEO~探索搜索排名之道 &#xff08;接上一篇。。…
阅读更多...
最新文章

Copyright @ 2022~2023