高校大数据实验室架构
具体实训平台介绍
编程实训平台
1、大数据开发实训平台
大数据开发实训平台是面向实训课和课后训练的编程实训平台,平台底层基于Docker技术,采用容器云部署方案,预装大数据相关课程教学所需的实训环境,拥有1主2从的Hadoop集群,还能够自主定制环境,并能够与实训管理平台集成。
大数据开发实训平台特色功能如下:
(1)提供3种实训界面显示模式,支持灵活根据实际训练场景,一键切换为隐藏实训界面、左右同屏和全屏实训界面。
(2)支持将实训环境的文件导出至本地,并支持将本地文件导入至实训环境,实现本地与实训环境的资源无障碍传输。
(3)支持实训作业在线提交,并支持提交作业附件,作业提交方便快捷,无须借助其他工具。
(4)支持学生请求教师远程协助,快速寻求帮助,减少沟通成本。
(5)支持在本地与实训环境之间粘贴文本,学生可以快速记录实训环境中的文本至本地文档或平台的实训报告中。
2、Python编程实训平台
Python编程实训平台是面向我校实训课和课后训练的编程实训平台。平台采用本地化部署方案,在实验计算机部署Python环境,并与实训管理平台集成。支持从实训管理平台直接访问Python编程实训平台。
(1)提供3种实训界面显示模式,支持灵活根据实际训练场景,一键切换为隐藏实训界面、左右同屏和全屏实训界面。
(2)支持实训作业在线提交,并支持提交作业附件,作业提交方便快捷,无须借助其他工具。
项目实践平台
1、大数据采集平台
大数据采集平台是一款适用于高校大数据相关专业数据采集课程教学与实训的工具。平台采用图形用户界面,无需编程,通过输入网页信息,快速抓取网页上文本、链接、图片、视频、文档文件等各类型数据,将数据存储在数据库,通过平台能够轻松查看网页数据。不仅能够帮助学生快速了解数据采集规则流程,还能够帮助老师减少数据采集课程备课成本,清晰易懂的讲解数据采集规则,展现数据采集结果;还能够帮助我校其他专业学生解决编程基础弱、爬虫编写困难等问题,轻松抓取网页数据。
2、大数据挖掘建模平台
大数据挖掘建模平台是面向大数据相关专业课程教学与实训的工具。平台无需编程,通过拖拽的方式进行操作,以流程化的方式将数据源、统计分析、数据清洗、数据处理等环节进行连接,快速熟悉分类、回归、聚类、时序、关联规则等领域的算法,以及各个算法的输入、输出、参数等内容,达成数据分析的目的。同时通过查看代码与修改源码实现对代码的熟悉,由浅入深,环环相扣。不仅可以帮助学生快速建立工程化思维,了解不同大数据挖掘建模流程;同时帮助老师减少算法课程备课成本,使用平台现有的功能组件实现相关算法的授课;还能够帮助其他专业更好理解大数据挖掘建模的相关内容。