昇思MindSpore AI框架MindFormers实践3:ChatGLM3-6B对一段文字进行提取

MindSpore和MindFormers安装参见:昇思AI框架实践1:安装MindSpoe和MindFormers_miniconda 安装mindspore-CSDN博客

使用了MindSpore2.2和MindFormers1.0

支持的模型:

KeyError: "model must be in odict_keys(['gpt2', 'gpt2_lora', 'gpt2_xl', 'gpt2_xl_lora', 'gpt2_13b', 'llama_7b', 'llama_13b', 'llama_65b', 'llama2_7b', 'llama2_13b', 'llama2_70b', 'codellama_34b', 'llama_7b_lora', 'pangualpha_2_6b', 'pangualpha_13b', 'glm_6b', 'glm_6b_chat', 'glm_6b_lora', 'glm_6b_lora_chat', 'glm2_6b', 'glm2_6b_lora', 'glm2_6b_ptuning2', 'glm3_6b', 'codegeex2_6b', 'bloom_560m', 'bloom_7.1b', 'bloom_65b', 'bloom_176b', 'baichuan_7b', 'baichuan2_7b', 'baichuan2_13b', 'ziya_13b', 'skywork_13b', 'internlm_7b', 'internlm_7b_lora', 'common']) when model's type is string, but get glm3."

 pipline模型:

import mindspore; mindspore.set_context(mode=0, device_id=0)
from mindformers.pipeline import pipelinepipeline_task = pipeline(task="text_generation", model="glm3_6b")
pipeline_result = pipeline_task("An increasing sequence: one,", do_sample=False, max_length=20)
print(pipeline_result)

输出结果:

[{'text_generation_text': ['[gMASK]sop An increasing sequence: one, two, three, four, five, six, seven,']}]

换个问题:

提取菜谱

prompt="""
‌提取下面菜谱的主要原料:
丝瓜‌:约500克,洗净后去掉两头并去皮,切成滚刀块或小段备用。‌1
‌鸡蛋‌:4-5个,敲入碗中,加入少量食盐、‌料酒、‌白醋(可选)和葱花(可选),搅拌均匀备用。
‌调味料‌:‌大蒜、盐、‌味精、‌生抽、‌蚝油、‌白糖等,根据个人口味适量添加。‌1
‌其他‌:食用油、料酒、小葱、小米辣等,用于烹饪过程中的调味和提香。‌
"""
pipeline_result = pipeline_task(prompt, do_sample=False, max_length=520)
print(pipeline_result)

答案:

2024-09-13 10:59:40,135 - mindformers[mindformers/generation/text_generator.py:478] - INFO - total time: 0.519688606262207 s; generated tokens: 15 tokens; generate speed: 28.86343825754726 tokens/s
[{'text_generation_text': ['[gMASK]sop \n\u200c提取下面菜谱的主要原料:\n丝瓜\u200c:约500克,洗净后去掉两头并去皮,切成滚刀块或小段备用。\u200c1\n\u200c鸡蛋\u200c:4-5个,敲入碗中,加入少量食盐、\u200c料酒、\u200c白醋(可选)和葱花(可选),搅拌均匀备用。\n\u200c调味料\u200c:\u200c大蒜、盐、\u200c味精、\u200c生抽、\u200c蚝油、\u200c白糖等,根据个人口味适量添加。\u200c1\n\u200c其他\u200c:食用油、料酒、小葱、小米辣等,用于烹饪过程中的调味和提香。\u200c\n\n主要原料:丝瓜、鸡蛋、调味料、其他。']}]主要原料:丝瓜、鸡蛋、调味料、其他

可以看到总共用时2秒,回答出来了主要材料,效果还是不错的。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.xdnf.cn/news/1535007.html

如若内容造成侵权/违法违规/事实不符,请联系一条长河网进行投诉反馈,一经查实,立即删除!

相关文章

2024.9.14 Python与图像处理新国大EE5731课程大作业,马尔可夫随机场和二值图割,校正立体图像的深度

1.马尔科夫随机场和二值图割 马尔可夫随机场(MRF, Markov Random Field): MRF 是一种用来描述图像像素之间空间关系的概率模型。它假设图像中的像素不仅取决于自身的值,还与周围像素有关。这种模型经常用于图像分割、去噪等任务。…

51单片机 - DS18B20实验1-读取温度

上来一张图,明确思路,程序整体裤架如下,通过单总线,单独封装一个.c文件用于单总线的操作,其实,我们可以把点c文件看成一个类操作,其属性就是我们面向对象的函数,也叫方法&#xff0c…

iPhone 16预售已开,沙漠金色最抢手,喜提新机后别忘了这件事!

9月13日20点,iPhone 16系列正式开启官方预购。今年全新的iphone16不仅新增相机按钮和AI功能,还增加了沙漠金配色。“加量不加价”的iPhone 16系列开售依旧火爆,iPhone 16系列开售1分钟内,苹果官方网站一度被消费者买到崩&#xff…

(Python+selenium)UI自动化测试

🍅 点击文末小卡片,免费获取软件测试全套资料,资料在手,涨薪更快 前言 我们在进行UI自动化测试时,一般采用javaselenium或者pythonselenium的方式。由于python比较简单,上手快,因此建议大家采…

【第34章】Spring Cloud之SkyWalking分布式日志

文章目录 前言一、准备1. 引入依赖 二、日志配置1. 打印追踪ID2. gRPC 导出 三、完整日志配置四、日志展示1. 前端2. 后端 总结 前言 前面已经完成了请求的链路追踪,这里我们通过SkyWalking来处理分布式日志; 场景描述:我们有三个服务消费者…

Vue安装及环境配置【图解版】

欢迎来到我的博客,很高兴能够在这里和您见面!希望您在这里可以感受到一份轻松愉快的氛围,不仅可以获得有趣的内容和知识,也可以畅所欲言、分享您的想法和见解。 Facts speak louder than words! 目录 一.node.js的安装…

2024/9/14 408大题专项训练之存储系统

组相联映射怎么算组号? 有cache总大小/路数xcache大小 物理地址与虚拟地址位数不一定相等,但是她们页内地址和块内地址位数是一样的!

基于自己的数据库构建基于LLM的专属知识库

简介: 基于自己的数据库构建基于LLM的专属知识库 要基于自己的数据库构建基于LLM的专属知识库,你需要遵循以下步骤: 确定目标:首先,你需要明确你的知识库的目标。这可能是用于回答特定领域的问题、提供个性化的建议或…

微信这些危险设置一定要关!

你有仔细研究你的微信吗? 用了这么久的微信,才知道 有这么几个设置需要及时关闭! 逐个操作更安心1️⃣取消不常用的免密支付和自动续费 我>服务>钱包>底部 支付设置>免密支付/自动续费2️⃣取消对附近陌生人授权位置 2️⃣取消对…

大数据新视界 --大数据大厂之Kafka消息队列实战:实现高吞吐量数据传输

💖💖💖亲爱的朋友们,热烈欢迎你们来到 青云交的博客!能与你们在此邂逅,我满心欢喜,深感无比荣幸。在这个瞬息万变的时代,我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而 我的…

成功晋级 | 3本ELSEVIER期刊正式被ESCI收录,最快的录用后2天即可出版

爱思唯尔(ELSEVIER)作为一家国际顶尖出版集团,自1880年创办以来,旗下出版期刊有2800多种,其中包含《柳叶刀》《细胞》等TOP期刊,在学术科研界享誉盛名。 根据八月份公布的最新SCI目录显示,ELSE…

UART 16550的使用

前言 本文从操作系统使用 16550 的角度来学习 16550。主要解析通用的串口寄存器的作用。 16550 串口由一系列寄存器控制串口行为。不同的具体设备寄存器的偏移不同,寄存器的长度可能不同。 例如,在 AXI UART 16550中,各寄存器长度都为 32 b…

每天五分钟玩转深度学习PyTorch:模型参数优化器torch.optim

本文重点 在机器学习或者深度学习中,我们需要通过修改参数使得损失函数最小化(或最大化),优化算法就是一种调整模型参数更新的策略。在pytorch中定义了优化器optim,我们可以使用它调用封装好的优化算法,然后传递给它神经网络模型参数,就可以对模型进行优化。本文是学习第…

D - 1D Country(AtCoder Beginner Contest 371)

题目链接: D - 1D Country (atcoder.jp) 题目描述: 数据范围: 输入输出: 题目分析: 典型的l, r 区间问题,即是前缀和问题,但是注意到数据范围, 数据范围1e-9 到 1e9 数据范围,要是从最小到最大直接for循环去模拟的话,时间复杂度…

opencv中读取图片、视频以及对其基本操作

一、清华TUNA提供的Anaconda仓库镜像 conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/ conda config --set show_channel_urls yes 二、图…

【EI会议末轮截稿通知】第三届电子信息技术国际学术会议(EIT 2024)

第三届电子信息技术国际学术会议(EIT 2024) The 3rd International Conference on Electronic Information Technology 重要信息 大会官网:www.ic-eit.net 三轮截稿时间:2024年9月16日23:59分(后续不再征稿&#x…

【Hot100算法刷题集】双指针-01-移动零(含置零思路、移动思路、偏移量思路、冒泡法)

🏠关于专栏:专栏用于记录LeetCode中Hot100专题的所有题目 🎯每日努力一点点,技术变化看得见 题目转载 题目描述 🔒link->题目跳转链接 给定一个数组 nums,编写一个函数将所有 0 移动到数组的末尾&…

企业数字化转型建设方案(数据中台、业务中台、AI中台)(可编辑的188页WORD)

引言:企业数字化转型是一个复杂而长期的过程,其核心在于通过数据中台、业务中台和AI中台的建设,推动企业实现全面的数字化升级。 方案介绍:企业数字化转型建设方案中的数据中台是企业数字化转型的核心基础设施,负责数…

Stream流的思想和获取Stream流

首先介绍流的概念: 流可以理解为一条流水线,在这条流水线中有许多操作,比如筛选所需要的数据,输出打印等, 经过这条流水线,可以获取到自己所需要的数据: -->所以: Stream流的作…

java项目之疫情下图书馆管理系统源码(springboot)

风定落花生,歌声逐流水,大家好我是风歌,混迹在java圈的辛苦码农。今天要和大家聊的是一款基于springboot的疫情下图书馆管理系统。项目源码以及部署相关请联系风歌,文末附上联系信息。 项目简介: 疫情下图书馆管理系…