产品经理学AI:搭建大模型应用常用的三种方式

如果开发想要基于某个大模型开发一个应用该怎么做?

一般有以下几种方式:

1、自己部署大模型

部署大模型,分为两种模式,一种是部署自研大模型,还有一种是部署开源大模型。

部署自研大模型的优势是,可以完全根据自己的业务需求和目标设计和开发模型,实现最大程度的定制化,满足独特的应用场景和用户需求。

如果成功研发出具有创新性和高性能的大模型,可以在市场上获得独特的竞争优势,为企业带来差异化的价值,比如openAI这家公司。

但缺点是研发成本太高,技术难度太高,一般是大公司才会做的选择。

我们再来看下部署开源大模型。开源模型一般是免费使用的,或者只需要较低的成本进行部署和维护,相比于自研大模型,这种方式成本更低些。

当然也可以根据自己的需求对模型进行定制和优化,包括修改模型结构、调整参数、训练模型等,以更好地满足特定应用场景的需求,

但是如果需要微调开源大模型的话,在训练模型这块,也是需要计算资源的。

总的来说,自己部署大模型对技术要求比较高,需要具备一定的深度学习和机器学习知识,还有相关的技术能力来安装、配置和优化模型。

所以有能力自研大模型的公司就对外提供了大模型API,让普通公司直接去调用大模型,极大提高了效率和降低了成本,我们继续往下看。

2、调用大模型API和结合langchain

为了盈利,很多生产大模型的公司会对外提供调用大模型的API,比如openAI有提供gpt-4的API调用,字节豆包也有提供豆包大模型的api调用,可按量计费或者包年包月计费。

平台提供的API大模型接口,请求参数一般是用户询问的问题和上下文,返回参数是大模型的回答内容。

仅使用大模型API,可以轻松实现一个简单应用,比如简单版聊天机器人,只需向 API 发送用户输入的文本,接收 API 返回的生成内容,并展示给用户,就能完成基本的交互功能。

比较简单的应用,是可以通过直接调用大模型API实现,但是对于复杂的应用,仅通过调用API是无法实现的。

比如,在多轮对话场景中,需要记录对话历史、根据特定条件引导对话流程等,仅使用 API 可能会使开发变得复杂。

所以对于复杂场景,可以结合langchain框架一起来开发。

什么是langchain呢?langchain是一个链式调用粘合剂。它是一个开源框架,它就像是一个调度中心,可以把各个组件和LLM大模型连接起来。

举个例子,比如我们要搭建一个chatGPT,需要实现与用户多轮会话的功能。

首先我们需要一个记录会话过程的存储组件, 其次我们还需要一个调用会话过程并把对话信息作为LLM上下文的连接组件。

这些组件,langchain都已经帮我们封装好了,只需要写少量代码来调用就可以。

要完成以上步骤,还是有些复杂的,所以为了更快速的搭建,搭建工作流的方式就应运而生了。

继续往下看。

3、搭建工作流

在讲工作流之前,我们先讲下Agent。什么是Agent呢,Agent的中文名是智能体,它是基于LLM大模型而搭建出的智能应用,比如宝宝长相预测助手、智能客服助手。

Agent和LLM大模型有什么不同?LLM大模型是Agent的组成部分,LLM 大模型为智能体提供强大的语言理解和生成能力。

为了快速搭建出一个智能应用,很多大公司推出了AI应用开发平台,比如字节的扣子平台,腾讯混元平台。

无论你是否有编程基础,都可以在这些平台上快速搭建基于大模型的各类 Agent,并将 Agent 发布到各个社交平台、通讯软件或部署到网站等其他渠道。

而快速搭建出一个Agent,是通过自定义搭建工作流的方式实现的。

下面以扣子平台为例来讲解。

对于比较简单的Agent,可以直接通过自然语言描述来直接生成,比如我想生成一个小红书创意写作助手,只需要提供角色、技能、限制条件就可以了。

但是对于稍微复杂点的Agent,还需要通过搭建工作流的方式来实现。

首先扣子平台封装了很多组件,比如豆包大模型组件、GPT大模型组件、处理输入文本组件、生成图像组件等等。

我们只需要定义好每个组件的输入和输出,像搭积木一样把它们拼起来,就可以生成一个Agent了,生成的Agent还可以发布到豆包应用商店、微信小程序直接使用,也可以把它发布为API,在我们的项目里面去调用。

可以说,通过搭建工作流的方式,是目前最高效的生产AI应用的方式。如果想要直接调用现成的大模型来快速搭建应用,这是挺不错的一种方式。

AI产品经理,0基础小白入门指南

作为一个零基础小白,如何做到真正的入局AI产品?

什么才叫真正的入局?

是否懂 AI、是否懂产品经理,是否具备利用大模型去开发应用能力,是否能够对大模型进行调优,将会是决定自己职业前景的重要参数。

你是否遇到这些问题:

1、传统产品经理

  • 不懂Al无法对AI产品做出判断,和技术沟通丧失话语权
  • 不了解 AI产品经理的工作流程、重点

2、互联网业务负责人/运营

  • 对AI焦虑,又不知道怎么落地到业务中想做定制化AI产品并落地创收缺乏实战指导

3、大学生/小白

  • 就业难,不懂技术不知如何从事AI产品经理想要进入AI赛道,缺乏职业发展规划,感觉遥不可及

为了帮助开发者打破壁垒,快速了解AI产品经理核心技术原理,学习相关AI产品经理,及大模型技术。从原理出发真正入局AI产品经理

这里整理了一些AI产品经理学习资料包给大家

📖AI产品经理经典面试八股文
📖大模型RAG经验面试题
📖大模型LLMS面试宝典
📖大模型典型示范应用案例集99个
📖AI产品经理入门书籍
📖生成式AI商业落地白皮书

🔥作为AI产品经理,不仅要懂行业发展方向,也要懂AI技术,可以帮助大家:
✅深入了解大语言模型商业应用,快速掌握AI产品技能
✅掌握AI算法原理与未来趋势,提升多模态AI领域工作能力
✅实战案例与技巧分享,避免产品开发弯路

这份《AI产品经理学习资料包》已经上传CSDN,还有完整版的大模型 AI 学习资料,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

资料包: 完整版本链接获取

👉[CSDN大礼包🎁:《AI产品经理学习资料包》免费分享(安全链接,放心点击)]👈

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.xdnf.cn/news/1537901.html

如若内容造成侵权/违法违规/事实不符,请联系一条长河网进行投诉反馈,一经查实,立即删除!

相关文章

国产龙芯处理器双核64位系统板载2G DDR3内存迅为2K1000开发板

硬件配置国产龙芯处理器,双核64位系统,板载2G DDR3内存,流畅运行Busybox、Buildroot、Loognix、QT5.12 系统!接口全板载4路USB HOST、2路千兆以太网、2路UART、2路CAN总线、Mini PCIE、SATA固态盘接口、4G接口、GPS接口WIF1、蓝牙、Mini HDMI…

数据库事务的详解

1、 介绍 什么是事务? 事务是一个原子操作。是一个最小执行单元。可以由一个或多个SQL语句组成,在同一个事务当中,所有的SQL语句都成功执行时,整个事务成功,有一个SQL语句执行失败,整个事务都执行失败。(一组操作同时…

气膜足球馆:为青少年运动梦想护航—轻空间

随着青少年足球运动的不断普及,体育场馆的选择和建设正成为学校、俱乐部及家长们关注的重点。作为一种创新的场馆形式,气膜足球馆凭借其独特优势,逐渐成为青少年足球比赛和培训的理想之地。 宽敞舒适,助力足球成长 气膜足球馆采用…

【Linux】探索文件I/O奥秘,解锁软硬链接与生成动静态库知识

目录 1、C文件接口 1.1什么是当前路径? 1.2程序默认打开的文件流: 2、系统文件I/O 2.1.接口介绍: 2.1.1open: 参数讲解; flags如何实现一个参数就可以有多个参数传参的效果? open函数的返回值: 3…

EnzyACT——融合图技术和蛋白质嵌入预测突变蛋白活性变化

论文链接:EnzyACT: A Novel Deep Learning Method to Predict the Impacts of Single and Multiple Mutations on Enzyme Activity | Journal of Chemical Information and Modeling (acs.org) 文章摘要 酶工程涉及通过引入突变来定制酶,以扩大天然酶的…

【sgCreateCallAPIFunctionParam】自定义小工具:敏捷开发→调用接口方法参数生成工具

<template><div :class"$options.name" class"sgDevTool"><sgHead /><div class"sg-container"><div class"sg-start"><div style"margin-bottom: 10px">参数列表[逗号模式]<el-too…

旧衣回收小程序:开启旧衣回收新体验

随着社会的大众对环保的关注度越来越高&#xff0c;旧衣物回收市场迎来了快速发展时期。在数字化发展当下&#xff0c;旧衣回收行业也迎来了新的模式----互联网旧衣回收小程序&#xff0c;旨在为大众提供更加便捷、简单、透明的旧衣物回收方式&#xff0c;通过手机直接下单&…

葡萄叶病害检测系统源码分享

葡萄叶病害检测检测系统源码分享 [一条龙教学YOLOV8标注好的数据集一键训练_70全套改进创新点发刊_Web前端展示] 1.研究背景与意义 项目参考AAAI Association for the Advancement of Artificial Intelligence 项目来源AACV Association for the Advancement of Computer V…

venn可视化

文章目录 前言一、数据准备二、可视化1.二维2.三维 3.数据保存总结 前言 韦恩图&#xff08;Venn diagram&#xff09;是一种用于可视化集合之间关系的图形工具。它是由英国逻辑学家约翰韦恩于1880年引入的。 韦恩图由一组圆和它们的交集区域组成。每个圆代表一个集合&#x…

【微服务】Eureka的自我保护机制

Eureka的自我保护模式正是一种针对网络异常波动的安全保护措施&#xff0c;使用自我保护模式能使Eureka集群更加的健壮&#xff0c;稳定的运行。 在正常情况下&#xff0c;Eureka客户端会定期向Eureka服务器发送心跳&#xff0c;以表明它仍然存活和可用。如果Eureka服务器在配…

神经网络推理加速入门——指令流水线

前言 刚毕业的时候在青岛某信任职&#xff0c;做嵌入式软件开发&#xff0c;需要调试电路板。公司有个要求是所有新入职的员工&#xff0c;都要去公司自己的加工厂上两周的班&#xff0c;亲自组装生产电路板&#xff0c;体验产品生产的过程。 于是&#xff0c;刚毕业的我&…

es操作的请求体

创建索引的请求体 插入数据 查询索引 删除数据

本地安装MySQL并配置环境变量

MySQL是一个关系型数据库管理系统&#xff0c;是最流行的关系型数据库管理系统之一&#xff0c;在 WEB 应用方面&#xff0c;MySQL是最好的 RDBMS (Relational Database Management System&#xff0c;关系数据库管理系统) 应用软件之一。 本地安装MySQL 提供了 MySQ…

算法之搜索--最长公共子序列LCS

最长公共子序列&#xff08;longest common sequence&#xff09;:可以不连续 最长公共子串&#xff08;longest common substring&#xff09;&#xff1a;连续 demo for (int i 1;i<lena;i){for (int j 1;j<lenb;j){if(a[i-1]b[j-1]){dp[i][j]dp[i-1][j-1]1;}el…

如何扫描试卷去除笔迹?4种方法还原整洁试卷

如何扫描试卷去除笔迹&#xff1f;扫描试卷去除笔迹&#xff0c;作为现代学习管理与评估的革新手段&#xff0c;不仅显著提升了试卷的整洁美观度&#xff0c;更在环保和资源再利用层面发挥了积极作用。它使得试卷的保存、分享与复习变得更加便捷高效&#xff0c;减少了纸质资源…

iptables限制网速

1、使用hashlimit来限速 #从eth0网卡进入INPUT链数据&#xff0c;使用模块hashlimit 限制网速为100kb/s或2mb/s,超过限制的数据包会被DROP。OUTPUT链同理&#xff0c;mode为srcip&#xff0c;有4个mode选项: srcip&#xff08;默认匹配每个源地址IP&#xff0c;配置指定源地址…

Bootstrap 实例(默认的分页)

Bootstrap 支持的分页特性。分页&#xff08;Pagination&#xff09;&#xff0c;是一种无序列表&#xff0c;Bootstrap 像处理其他界面元素一样处理分页。 分页&#xff08;Pagination&#xff09; 下表列出了 Bootstrap 提供的处理分页的 class。 <!DOCTYPE html> &l…

C++速通LeetCode中等第1题-字母异位词分组

思路要点&#xff1a;对字符串排序&#xff0c;排序结果存放在map的key中&#xff0c;排序结果相同的字符串存放到map的value中 。 class Solution { public:string keys;vector<vector<string>> groupAnagrams(vector<string>& strs) {vector<vecto…

新手学习Python第九天-新手笔记 速学中

现在是北京时间06&#xff1a;55,早上06&#xff1a;44到达实验室&#xff0c;开始学习。对&#xff0c;昨天陪室友考教师资格证了&#xff0c;溜溜达达一天很舒服&#xff0c;两周一次的放松感。这几天和未来几天的压力真的很大&#xff0c;有很多要去学习的&#xff0c;比如C…

html实现好看的多种风格手风琴折叠菜单效果合集(附源码)

文章目录 1.设计来源1.1 风格1 -图文结合手风琴1.2 风格2 - 纯图片手风琴1.3 风格3 - 导航手风琴1.4 风格4 - 双图手风琴1.5 风格5 - 综合手风琴1.6 风格6 - 简描手风琴1.7 风格7 - 功能手风琴1.8 风格8 - 全屏手风琴1.9 风格9 - 全屏灵活手风琴 2.效果和源码2.1 动态效果2.2 源…