Azure OpenAI Service

こんにちは。KENTEMでバックエンドを担当しているおかおかです。 弊社ではAzureやGitHubを利用しているため、AIによる自動コードレビューができるPR-Agentをお試しで導入してみました。 Azure OpenAI Serviceを作成する GitHubにYamlファイルを作成する 処理概要 導入したことでの効果 おわりに Azure OpenAI Serviceを作成する Azureのポータル上からAzure OpenAIを新規作成します。以下設定を行うだけで簡単に構築することができます。 「gpt-4o」モデルを利用したいため、リージョンは「West US」にします。 Azur…

Microsoft CopilotやAzure OpenAI Serviceなど、Microsoft製品の生成AIについて盛り上げたいという想いから週次連載企画を開催してきましたが、ついに3ヶ月の連載期間を最後まで完走しました！ ここまで連載してきたメンバーには感謝をしつつ、今回の企画の簡単な振り返りをしてみたいと思います。 連載記事一覧 Microsoft Copilotで簡単な分析をしてみる Microsoft Copilotへの分析の依頼 Microsoft Copilotの分析結果 今後に向けて 連載記事一覧 今まで投稿した記事の一覧はこちらです。 【Microsoft×生成AI連載】…

【Microsoft×生成AI連載】を企画した堤です。 今回私からは、「Google ChromeのサイドバーでもCopilotを使いたい」という方向けに、Google ChromeでCopilotを使う方法をご紹介します。 これまでの連載 利用画面 Microsoft Edgeでの利用画面 Google Chromeの既定画面 Copilot追加手順 Google Chromeの拡張機能を追加する bing.comにサインインする Google ChromeでCopilotを利用開始する 注意点 copilot.microsoft.comにおける動作 bing.comにおける動作 最後に こ…

Azure OpenAI Serviceのハンズオンで発生したエラーと対処方法になります。 以下のgitからファイルを取得しデプロイすれば、社内文書検索が簡単に作成できます。 jp-azureopenai-samples/5.internal-document-search at main · Azure-Samples/jp-azureopenai-samples · GitHub １、初期化済エラー エラーメッセージ ERROR: environment already initialized to xxxx xxxxは作成済の環境名になります。 原因 既に「azd init 」した環境で…

2024/07/19 に福岡LLM勉強会を開催しました。 LLM について勉強会したい！という方から声をかけていただき、Azure における LLM や AI について話しました。 connpass.com speakerdeck.com 業務でもまぁ AI は使いますから、責任あるAIの原則についてはこまめに読むようにしています。 www.microsoft.com Azure AI Studio も機能が集約されていて良いですね。 まだ試せていない機能もありますので引き続き検証していく予定です。 azure.microsoft.com

【Microsoft×生成AI連載】を担当している満江です！今回私からはLoopでのCopilotをご紹介したいと思います。 これまでの連載 LoopにおけるCopilotとは 使用したCopilotの機能 Loopページにコンテンツを作成する Copilotが出力したコンテンツを書き換える Loopページの既存のコンテンツを書き換える Loopページの変更を要約する 感想 これまでの連載 これまでの連載記事一覧はこちらの記事にまとめておりますので、過去の連載を確認されたい方はこちらの記事をご参照ください。 blog.jbs.co.jp LoopにおけるCopilotとは Microsoft …

はじめに 前回の記事 『BRIDGE』掲載記事 『Microsoft Azure』の情報収集 『Microsoft Build』 『Microsoft Build Japan』 『Microsoft Ignite』 『Microsoft Ignite Japan』 『Microsoft (有志)』の記事 『Azureの新機能』 『Microsoft Learn』 『Azure コマンド ライン インターフェイス (CLI)』 『日本マイクロソフト サポート情報』 最後に はじめに こんにちは、HEROZ ASK の開発チームです。 herozask.ai 今回のポストでは、このプロダクトの開発…

はじめに 入寮した魔瞳の大鷲、やべーやつしかいねーぞ！！ nikkieです1。 OpenAIのModeration APIなるものを素振りしました。 目次 はじめに 目次 OpenAIのドキュメントより「Safety best practices」 Moderation API 終わりに OpenAIのドキュメントより「Safety best practices」 platform.openai.com OpenAIのWeb APIを介してGPTなどを使うアプリケーションを組む際、アプリケーションの安全性（Safety）を確保するためのベストプラクティスをまとめたページという理解です。 このペ…

テストからPoCへ RAG Agentの概要 PlaygroundからExportする Vector Indexにクエリ実行するFunctionが動かない・・・ agent Notebookの変更箇所 追加パッケージのインストール configの記述と出力 LLMとToolの定義 driverの変更箇所 追加パッケージのインストール Agentのロギングの見直し Evaluate Dataの変更 Agent(モデル)を登録する先の指定 Review Appを使う APIで利用する Agentのモニタリングダッシュボードを起動する ダッシュボード起動Notebookの取得 Notebookの変更…

はじめに 現代企業の中で、業務効率向上のためには、膨大な社内情報を効率的に管理し、迅速にアクセスする能力が必要です。特に、ExcelやPowerPointのような非構造化データを含む社内文書の検索は、知識管理の重要な課題となっています。弊社では、この課題に対応するため、 社内向け生成AIチャットサービス に RAG（Retrieval-Augmented Generation） の仕組みを導入し、社内文書から自動的に回答を生成する機能を実装しました。 このサービスは、2024年3月に ベータ版をリリース し、約半年後の 9月には正式版 をリリースして、検索精度や対応する文書範囲を大幅に改善しま…

序章: カスタマーサクセスに寄り添うためのQAの役割 こんにちは。QA部門でEightとContract Oneの品質マネジャーを務めている三好秀治です。本稿では、Slack・Azure Logic Apps・Azure OpenAI Service・Notionを活用したお客様フィードバックの管理効率化と、カスタマーサクセスに寄り添う取り組みについてご紹介します。カスタマーサクセスの向上には、お客様のフィードバックが不可欠です。これはプロダクト改善や顧客満足度向上に直結するからです。私たちは、フィードバックの自動分類や可視化を通じて迅速な対応を実現します。本記事では、この仕組みの構築方法を具…

DatabricksのModel Servingが楽しい・・・ Vector Search Vector Searchを使ってベクトルデータベースを構築 ブログ⇒テキスト抽出⇒Delta Tableへの格納 Delta Table⇒テキスト分割(chunking)⇒Delta Tableへの格納 埋め込みモデルのModel Serving Endpointの作成 Delta Table⇒埋め込み⇒Vector Index LLMからVector Indexへのクエリを実行出来るようにする PlaygroundでLLMからVector Indexにクエリ実行をさせる まとめ こんにちは、CCCM…

GPT-4o Realtime Audio がリリースされ、サンプルアプリが公開されており、使い方について可能な限り、”初心者向け” に記載していきます。 せっかくなので、説明文や解説の70％以上は、GPT4o に作文してもらいました。 この記事を読むことで、GPT-4o Realtime Audio が何なのか、どういうユースケースがあるのかを理解し、サンプルアプリをデプロイして使ってみるところまでをゴールとして記載していきます。長文となりますが、妥協なくゴールまでお付き合いください。 また、前提として、ユーザーが一番多い Windows を想定した流れとなっています。 目次 大きくこれらの…

はじめに この記事では、弊社が開発した社内向け生成AIチャットアプリの改善について、その中でも特に「プロンプトサジェスト」機能に焦点を当てて紹介します。この機能は、ユーザーが効率的に質問を進めるために、AIが次にすべき質問を自動で提案するものです。また、このプロジェクトでは、Azure OpenAIのGPT-4o（PTU契約(※1)）を使用して、高精度な回答生成を実現しています。 なお、リリース当初の取り組みに関する詳細は「Azure OpenAI Serviceで社内版ChatGPTのChatPCAを構築した話」に記載していますので、ご関心のある方はそちらもご覧ください。 リリースの背景 弊…

URL共有機能の実装と活用：社内生成AIの普及を促進するツール はじめに 本記事では、弊社が開発を進めている全社向けの生成AIチャットサービスの一部機能である「個人プロンプトURL共有機能」について紹介します。この機能は、個人のテンプレートプロンプトを他のメンバーと手軽に共有できるようにし、社内の生成AI活用をさらに促進する目的で開発されました。 なお、リリース当初の取り組みに関する詳細は「Azure OpenAI Serviceで社内版ChatGPTのChatPCAを構築した話」に記載していますので、ご関心のある方はそちらもご覧ください。 目次 URL共有機能の実装と活用：社内生成AIの普及…

はじめに AIが急速に進化する中で、特に注目を集めているのがRAG（Retrieval-Augmented Generation）です。この手法は、生成AIが学習していないデータにおいても正確な情報を提供するためにデータベースから関連情報を検索し、それを基に回答を生成するというアプローチを取ります。本記事では、RAGの基本概念から、その仕組みや実装方法まで詳しく解説します。 1. RAGとは何か？ RAGとは、情報検索（Retrieval）と生成（Generation）を組み合わせた手法を指します。 生成AIに学習済みではない知識に関する回答を出力させるために、データベースから取得した情報と組…

技術評論社の電子書籍で購入です。 永田祥平、伊藤駿汰、宮田大士、立脇裕太、花ケ﨑伸祐、蒲生弘郷、吉田真吾「Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門」 きっかけは社内文書の全文検索を調べてて、Azure AI Searchってどうなのっていうところで購入です。まだ読んで最初の方ですが、この本ではAI Searchについてはちらっと触れられている程度ですけど、それ以外にもAzureにおけるChatGPTの基本から社内文書検索システムの構築まで参考になりそうです。ただRAGの作成から検索システムの構築まで、GitHubにあるコマンドをダウンロードしてそ…

LLMの日本語ロールプレイ能力を計測するベンチマーク「Japanese-RP-Bench」の概要と評価結果などのまとめ LLM-jp-3 を LLM Farm を使って iPhone で動かす Logic-of-Thought: Injecting Logic into Contexts for Full Reasoning in Large Language Models Evaluating the Effectiveness of LLM-Evaluators (aka LLM-as-Judge) 世界一の日本語性能を持つ企業向け大規模言語モデル「Takane」を提供開始 リコー、モデル…