GitHub基于大语言模型构建Copilot的经验和教训-德赢Vwin官网网

GitHub 在一篇文章中分享了他们在构建和扩展 GitHub Copilot——一个使用大语言模型的企业应用——过程中所学到的经验教训。

在 GitHub 的一篇博文中，GitHub 的 AI 产品负责人 Shuyin Zhao 描述了他们如何在三年多的时间里历经三个阶段——“Find it”、“Nail it”和“Scale it”——成功推出了 GitHub Copilot。

在“Find it”阶段，他们专注于找到 AI 可以有效解决的问题，通过一种足够专注的方式快速推向市场，并且足以产生影响。

这包括确定到底是为了谁而解决问题——帮助开发人员更快地编写代码，减少上下文切换。此外，他们只关注 SDLC 的一部分：IDE 中的编码功能，并结合当下的 LLM 的能力。这样他们就可以专注于让工具提供代码建议，而不是生成全部代码。他们还致力于确保他们所做的是对现有工具进行增强，不要求开发人员改变已有的工作流程。

“在设计产品时，我们不仅要考虑输出需要人类进行评估的模型，也要考虑正在学习如何与 AI 互动的人类。”

——Idan Gazit，GitHub Next 高级研发总监

在“Nail it”阶段，他们基于从 A/B 测试中获得的真实用户反馈进行迭代式产品开发。他们进行快速迭代、试错和学习。在使用 Copilot 的 Web 接口进行了简短的实验后，他们将重点转向了 IDE，以减少在编辑器和 Web 浏览器之间切换，并让 AI 在后台运行。在进一步的迭代中，通过观察开发人员在编码时打开的多个 IDE 选项卡，GitHub Copilot 可以同时处理多个文件。

随着生成式 AI 的迅速发展，他们开始重新审视过去所做出的决策，技术的进步和用户对它的熟悉程度有时会让过去的决策变得过时。于是，提供交互式聊天的想法开始活跃起来，他们需要基于沉没成本谬论改变决策，例如，当大语言模型的进步允许一个模型处理多种语言时，就需要改变为每种语言构建 AI 模型的想法。

最后，在“Scale it”阶段，他们致力于确保 AI 模型结果的一致性、管理用户反馈，并定义了关键性能指标，以实现应用程序的普遍可用性 (GA)。他们还考虑了安全性和 AI 责任问题，使用过滤器来避免为用户建议不安全或具有冒犯性的代码。

改进质量和可靠性方面的工作包括缓解大语言模型的幻觉，即答案可能是不可预测的，并且每次查询都有所不同。解决这个问题的策略包括修改发送给大语言模型的参数，以减少响应的随机性，并缓存频繁的响应以减少变化和提高性能。

GitHub 使用等待列表来管理技术预览版的早期用户。这意味着他们可以获得来自一小群早期采用者的评论和反馈。对真实用户反馈的深入分析使得 GitHub 团队能够识别出有问题的更新，并改进产品的关键性能指标，例如开发人员保留了多少由 Copilot 生成的代码。

最后，他们确保开发人员生成的代码是安全的，并通过过滤器来拒绝可能引入安全问题 (如 SQL 注入) 的代码建议。社区也提出了一些问题，例如 Copilot 的代码建议与公开的代码相重叠可能会产生许可问题或其他影响。他们为此提供了一个代码参考工具，帮助开发人员做出明智的选择。

在市场策略方面，他们向一些有影响力的社区成员展示了技术预览版，并且面向的是个人用户而不是企业。这有助于在正式发布时获得广泛的支持，从而促使企业采用它。

关键在于展示专注于特定问题的重要性、整合实验结果和用户反馈，以及在应用扩展时优先考虑用户需求。

由于生成式 AI 的采用仍处于早起阶段，GitHub 也在密切关注市场对生成式 AI 工具的需求。感兴趣的读者可在 GitHub 的博客上阅读全文。

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

编辑器

编辑器

+关注

关注
1

文章
805

浏览量
31163
语言模型

语言模型

+关注

关注
0

文章
520

浏览量
10268
GitHub

GitHub

+关注

关注
3

文章
468

浏览量
16427

原文标题：GitHub 基于大语言模型构建 Copilot 的经验和教训

文章出处：【微信号：AI前线，微信公众号：AI前线】欢迎添加关注！文章转载请注明出处。

GitHub Copilot与Bitbucket、Jira、Confluence集成使用指南

如何将GitHub Copilot与Bitbucket、Jira和Confluence集成使用？实操指南有！阅读了解如何在Bitbucket存储库中轻松使用GitHub Copilot

发表于 12-03 14:37 •169次阅读

国产大模型发展的经验与教训

本文介绍大模型的计算特征（国产平台介绍、系统挑战、算子实现、容错）、框架的并行性支持、未来算法等。随着ChatGPT的横空出世，人工智能大模型成为各行各业热议的焦点，国内外各种大模型如雨

发表于 11-11 11:39 •229次阅读

Arm推出GitHub平台AI工具

专为 GitHub Copilot 设计的 Arm 扩展程序，可加速从云到边缘侧基于 Arm 平台的开发。

发表于 11-01 13:50 •280次阅读

GitHub Copilot引入多模型支持

近日，据外媒报道，GitHub正在为其代码完成和编程工具Copilot引入多模型支持。这一举措将为开发者提供更加灵活和多样化的选择。在近日举办的GitHub Universe大会上，

发表于 10-31 11:49 •499次阅读

开源 KiCad/AD 查看器 + AI Copilot?

），某些功能更强一些。查看器支持原理图、PCB、3D、BOM，可以交互查看原理图、PCB中几乎所有对象的属性（应该是实时渲染的）原理图支持 AI-Copilot，可以直接对话也可以使用菜单

发表于 08-18 22:41

【大语言模型：原理与工程实践】大语言模型的应用

的创造力进行结合，从而创造出更加丰富多样的内容。随着技术的不断发展，自动提示生成技术有望逐渐成熟。这将使大语言模型变得更加自主，能够自行构建和改进提示词以达到理想的结果。这将极大地提高大语言

发表于 05-07 17:21

【大语言模型：原理与工程实践】大语言模型的评测

任务、评测集构建标准和评测方式三个部分。特别地，为了关注大语言模型在中文场景的优化和应用，该框架特别注重中文特有语境下的能力考察。其贡献在于不仅能更准确地反映模型在实际应用中的表现，还

发表于 05-07 17:12

【大语言模型：原理与工程实践】大语言模型的预训练

具有以下三个非常显著的特点，一个就是模型参数规模更大，训练数据更多。当然，对计算资源的要求也会更高。构建强大的语言模型时，模型的选型至关

发表于 05-07 17:10

【大语言模型：原理与工程实践】大语言模型的基础技术

全面剖析大语言模型的核心技术与基础知识。首先，概述自然语言的基本表示，这是理解大语言模型技术的前提。接着，详细介绍自然

发表于 05-05 12:17

【大语言模型：原理与工程实践】揭开大语言模型的面纱

大语言模型（LLM）是人工智能领域的尖端技术，凭借庞大的参数量和卓越的语言理解能力赢得了广泛关注。它基于深度学习，利用神经网络框架来理解和生成自然语言文本。这些

发表于 05-04 23:55

GitHub Copilot+ESP开发实战-SPI

准备工作1.ESP32-C3-DevKitC-1开发板一块；2.SPI转uart小板一块；3.杜邦线4根、USB线;一、向Copilot提问需要实现的功能：1、ESP32-C3用C语言实现SPI

发表于 03-30 08:03 •417次阅读

GitHub Copilot+ESP开发实战-串口

上篇文章讲了GitHubCopilot在应用中可能遇到的问题，接下来小启就简单介绍下GitHubCopilot在ESP32开发中C语言实现串口功能，感兴趣的可以看看。一、向Copilot提问

发表于 03-16 08:03 •478次阅读

微软Copilot全面更新为OpenAI的GPT-4 Turbo模型

起初，Copilot作为Bing Chat AI助手推出，初期采用GPT-3.5模型，随后升级至GPT-4取得显著进步，如今再次更新至性能卓越的GPT-4 Turbo模型，这无疑将使得Copi

发表于 03-13 13:42 •723次阅读

名单公布！【书籍评测活动NO.30】大规模语言模型：从理论到实践

。为了使更多的自然语言处理研究人员和对大语言模型感兴趣的读者能够快速了解大模型的理论基础，并开展大模型实践，复旦大学张奇教授团队结合他们在

发表于 03-11 15:16

GitHub Copilot Enterprise全线向企业客户开放，提供个性化定制服务

在官方博客中，GitHub 详细说明了新版本 Enterprise 在标准版和商业版 GitHub Copilot 基础上的差异点。Enterprise 特有功能包括依据企业特定代码和知识库回答与之匹配的提问，同时支持拉取请求描

发表于 02-28 15:45 •722次阅读

搜索历史

GitHub基于大语言模型构建Copilot的经验和教训

评论

GitHub Copilot与Bitbucket、Jira、Confluence集成使用指南

国产大模型发展的经验与教训

Arm推出GitHub平台AI工具

GitHub Copilot引入多模型支持

开源 KiCad/AD 查看器 + AI Copilot?

【大语言模型：原理与工程实践】大语言模型的应用

【大语言模型：原理与工程实践】大语言模型的评测

【大语言模型：原理与工程实践】大语言模型的预训练

【大语言模型：原理与工程实践】大语言模型的基础技术

【大语言模型：原理与工程实践】揭开大语言模型的面纱

GitHub Copilot+ESP开发实战-SPI

GitHub Copilot+ESP开发实战-串口

微软Copilot全面更新为OpenAI的GPT-4 Turbo模型

名单公布！【书籍评测活动NO.30】大规模语言模型：从理论到实践

GitHub Copilot Enterprise全线向企业客户开放，提供个性化定制服务