在 Azure 上运行 LLM

在 Azure 上运行 LLM

本课程是 Large Language Model Operations (LLMOps) 专项课程的一部分

位教师：Noah Gift

访问权限由 New York State Department of Labor 提供

7,259 人已注册

4个模块

深入了解一个主题并学习基础知识。

51 条评论

中级等级

推荐体验

1 周完成

在 10 小时一周

灵活的计划

自行安排学习进度

4个模块

深入了解一个主题并学习基础知识。

51 条评论

中级等级

推荐体验

1 周完成

在 10 小时一周

灵活的计划

自行安排学习进度

您将学到什么

熟练掌握利用 Azure 部署和管理 Large Language Model (LLM)。
使用 Semantic Kernel 开发高级查询制作技能，以优化与 Azure 环境中 LLM 的交互。
获得使用 Retrieval Augmentation (RAG) 实现模式和部署应用程序的实践经验

您将获得的技能

您将学习的工具

要了解的详细信息

可分享的证书

添加到您的领英档案

作业

4 项作业

授课语言：英语（English）

了解顶级公司的员工如何掌握热门技能

了解关于 Coursera for Business 的更多信息

Petrobras, TATA, Danone, Capgemini, P&G 和 L'Oreal 的徽标

积累特定领域的专业知识

本课程是 Large Language Model Operations (LLMOps) 专项课程专项课程的一部分

在注册此课程时，您还会同时注册此专项课程。

向行业专家学习新概念
获得对主题或工具的基础理解
通过实践项目培养工作相关技能
获得可共享的职业证书

该课程共有4个模块

本课程专为中级和初级水平的人员设计，包括数据科学家、人工智能爱好者和寻求利用 Azure 的强大功能来建立大型语言模型 (LLM) 的专业人员。本综合课程专为具有基础编程经验并熟悉 Azure 基础知识的人员量身定制，将带您经历为期四周的旅程。在第一周，您将深入了解 Azure 的人工智能服务和 Azure 门户，深入了解大型语言模型、其功能和风险缓解策略。随后几周的内容涉及实际应用，包括利用 Azure 机器学习、管理 GPU 配额、部署模型和使用 Azure OpenAI 服务。随着学习的深入，课程将探讨细致入微的查询制作、语义内核实施以及在 Azure 环境中优化与 LLM 交互的高级策略。最后一周的重点是使用 RAG、Azure 服务和 GitHub Actions 工作流构建架构模式、部署策略和实践应用程序。无论您是数据专家还是人工智能爱好者，本课程都能让您掌握利用 Azure 和大型语言模型部署、优化和构建强大的大规模应用程序的技能。

在本 Modulation 中，您将通过介绍 Azure 门户和 Azure Machine Learning 等关键产品，学习如何开始使用 Azure 及其 AI 服务。您还将了解 Large Language Model，包括其工作原理、优点和风险，以及降低这些风险的策略。最后，您还将了解在 Azure 中发现、评估和部署预训练 LLM 的选项，包括利用 prompt engineering 实现负责任的数据基础。

涵盖的内容

21个视频9篇阅读材料1个作业1个讨论话题

21个视频总计83分钟

认识你的导师阿尔弗雷多-德萨 2分钟
关于本课程 3分钟
导言 1分钟
Azure 门户简介 4分钟
使用 Microsoft Learn 4分钟
确定 Azure AI 解决方案 5分钟
Azure 机器学习简介 7分钟
Azure 开放式 AI 服务简介 7分钟
摘要 1分钟
导言 1分钟
什么是法律硕士？ 5分钟
使用法律硕士的好处和风险 6分钟
降低法律硕士的风险 6分钟
LLMOps 简介 5分钟
摘要 1分钟
导言 1分钟
在 Azure 中发现和评估 LLM 6分钟
推理的部署选项 6分钟
什么是 Azure AI 内容安全功能？ 6分钟
Azure 机器学习和 Azure 开放式 AI 服务差异 4分钟
摘要 1分钟

9篇阅读材料总计90分钟

与教师联系 10分钟
课程结构和讨论礼仪 10分钟
报告课程问题 10分钟
外部实验室：创建 Azure 账户 10分钟
什么是 Azure OpenAI 服务？ 10分钟
什么是 Azure Machine Learning？ 10分钟
LLMOps 简介 10分钟
外部实验室：探索 Azure Machine Learning Studio 10分钟
什么是 Azure 内容安全？ 10分钟

1个作业总计30分钟

使用 Azure 的 LLMOps 简介 30分钟

1个讨论话题总计10分钟

见面会（可选） 10分钟

在本 Modulation 中，您将学习通过 Azure Machine Learning 的计算资源和管理 GPU 配额和模型部署以及 Azure OpenAI Service，利用 Azure 实现 Large Language Model (LLM)。您将通过部署模型并使用其推理 API（使用 Python 编程语言）来应用这些知识。

涵盖的内容

18个视频4篇阅读材料1个作业

18个视频总计55分钟

导言 1分钟
GPU 配额和可用性 4分钟
创建计算资源 4分钟
部署模型 3分钟
使用推理 API 4分钟
摘要 1分钟
导言 1分钟
访问 Azure OpenAI 服务 4分钟
创建 Azure OpenAI 服务资源 5分钟
部署 OpenAI 模型 5分钟
游乐场的使用 5分钟
摘要 1分钟
导言 1分钟
使用键和端点 5分钟
创建一个简单的 Python 示例 5分钟
审查使用情况和配额 2分钟
清理资源 4分钟
摘要 1分钟

4篇阅读材料总计40分钟

Azure ML：创建资源 10分钟
外部实验室创建计算资源 10分钟
外部实验室：使用 Azure OpenAI 服务游乐场 10分钟
外部实验室：使用 Azure OpenAI API 10分钟

1个作业总计30分钟

LLM 与 Azure 30分钟

在本模块中，您将通过 Semantic Kernel 的实施，了解在 Azure 中为 Large Language Model (LLM) 制作细致入微的查询的艺术。您将深入了解如何改进 Prompt，了解使用系统提示的动态，并探索优化与 LLM 交互的高级策略。您将亲自动手应用这些技术，提高在 Azure 环境中利用 Semantic Kernel 的熟练程度。

涵盖的内容

19个视频3篇阅读材料1个作业

19个视频总计61分钟

导言 1分钟
什么是语义 Kernel？ 4分钟
将语义 Kernel 与 Azure 结合使用 6分钟
使用系统 Prompt 3分钟
高级系统提示 3分钟
摘要 1分钟
导言 1分钟
功能概览 4分钟
定义功能 6分钟
使用 LLM 的功能 4分钟
处理错误 4分钟
摘要 1分钟
导言 1分钟
创建胶水函数 6分钟
消耗函数参数 3分钟
使用本地函数 4分钟
功能微服务概述 3分钟
使用外部 Microservices API 4分钟
摘要 1分钟

3篇阅读材料总计30分钟

外部实验室：将语义 Kernel 与 Azure 结合使用 10分钟
外部实验室使用函数 10分钟
外部实验室：使用本地函数 10分钟

1个作业总计30分钟

功能和插件 30分钟

在本 Module 中，您将探索大型语言模型应用程序的架构模式和部署。通过学习 RAG、Azure 服务和 GitHub Actions，您将了解如何构建强大的应用程序。您将通过使用 Azure 搜索实施 RAG、创建 GitHub Actions Workflow 和部署端到端应用程序来应用所学知识。