对生成式 AI(GenAI)技术技能的需求正在增加,企业正在积极寻找能够处理大型语言模型(LLM)的 AI 工程师。本 IBM 课程旨在培养能够加速您的 AI 职业生涯的就业就绪技能。 在本课程中,您将探索 Transformer 以及关键模型框架和平台,包括 Hugging Face 和 PyTorch。您将从优化 LLM 的基础框架开始学习,并快速提升到微调生成 AI 模型。您还将学习参数高效微调(PEFT)、低秩自适应(Load)、量化 Load(QLoad)和提示等高级技术。 上机实验将为您提供宝贵的实践经验,包括使用行业标准工具加载、预训练和微调模型。这些技能直接适用于现实世界中的 AI 职位,非常适合在面试中展示。 如果您已经准备好让自己的 AI 职业生涯更上一层楼,并用紧缺的 Gen AI 能力强化自己的简历,请立即报名,并在一周内开始应用您的新技能!
在本模块中,您将深入了解使用行业标准工具(如 Hugging Face 和 PyTorch)处理大型语言模型(LLM)的实践方面。您将探索这些框架之间的区别,学习如何使用预训练模型加载和执行推理,并了解预训练和微调 LLM 的过程。通过动手实验,您将获得实施这些技术的经验,提高为各种应用开发和优化生成式人工智能模型的能力。本模块结束时,您将掌握有效利用和微调 LLM 的技能,使其符合特定任务和性能要求。
涵盖的内容
5个视频4篇阅读材料2个作业4个应用程序项目
显示有关单元内容的信息
5个视频•总计29分钟
课程介绍•3分钟
拥抱脸与 PyTorch•6分钟
使用预训练变换器并进行微调•7分钟
使用 PyTorch 进行微调•7分钟
用拥抱脸进行微调•5分钟
4篇阅读材料•总计25分钟
课程概览•3分钟
专业概述•7分钟
完成课程的有用提示•5分钟
阅读:摘要和要点•10分钟
2个作业•总计27分钟
实践测验:NLP 中的迁移学习•12分钟
分级测验:变形金刚与微调•15分钟
4个应用程序项目•总计170分钟
实验室用拥抱脸加载模型和推理•20分钟
[单选] 用 "拥抱脸 "对 LLM 进行预训练•60分钟
实验室使用 PyTorch 进行预训练和微调•60分钟
实验室用 PyTorch 和拥抱脸微调 Transformer•30分钟
参数高效微调(PEFT)
第 2 单元•小时 后完成
单元详情
在本 Modulation 中,您将探索使用参数高效微调(PEFT)技术微调 Large Language Model 的前沿方法。您将了解适配器、低秩适配(LoRA)和量化,以及 PyTorch 和 Hugging Face 库的实际应用。动手实验和阅读将加深您对软 Prompt、量化 LoRA (QLoRA) 和关键术语的了解。您还可以访问简明小抄和词汇表,以巩固整个课程中介绍的基本技术、术语和工具。
本课程是具有法学硕士学位的人工智能工程(Generative AI Engineering with LLMs)专项课程的一部分。完成该专项课程后,您将具备胜任 AI 工程师、NLP 工程师、机器学习工程师、深度学习工程师、数据科学家或软件开发人员等想要申请寻求与 LLMs 合作的工作角色的技能和信心。