閉じる

Home
OKIの技術
技術広報誌 OKIテクニカルレビュー
No.243
OKIグループにおける生成AI基盤と活用推進

技術広報誌 OKIテクニカルレビュー

新技術および新商品紹介

本記事のリーフレット
- ダウンロードはこちら [1.1MB]

OKIグループにおける生成AI基盤と活用推進

生成AI活用の背景
セキュアな生成AI基盤
生成AI活用ガイドライン
社内向け活用推進
生成AIの具体的な活用
まとめと今後の展望

LLM（Large Language Model）に代表される生成AIは、その高い知識生成能力と広い応用範囲から、ビジネスプロセスや製品開発に革新的な変化をもたらす可能性がある。本稿では、OKIグループ社内での生成AI利用環境を構築した背景、新規に策定した活用ガイドラインの具体的内容について取り上げ、社内向けの生成AI活用推進活動全体を解説する。生成AI利用環境は、社内各部門が連携し2か月で基盤構築、その後3か月で社内一般公開と短期間で実現した。さらに、活用推進活動の成果として、OKIグループの業務や事業での活用事例を紹介する。

生成AI活用の背景

2022年11月にOpenAI社がChatGPT® (注1)を公開して以後、2カ月で1億ユーザーを超えるなど、社会的に大きな注目を浴びた。OKIグループにおいても、その革新的な性能に着目し、生成AIを活用する必然性を感じていた。

その一方で、オープンな生成AIサービスを利用した場合、社内データが生成AIの学習に使われてしまう「情報漏洩のリスク」、無秩序に生成AIを利用し誤った情報を活用してしまう「ハルシネーションのリスク」を認識していた。実際、2023年初頭は使用禁止を公表する国や企業などもあり、セキュリティや品質を担保しながら生成AIを活用する基盤を整備することが課題であった。

このような背景から、OKIグループ内で安全に生成AIが利用できるように、セキュアな生成AI基盤を構築し、活用ガイドラインの整備、生成AI活用を積極的に推進する活動を行った。以後にそれらの活動の詳細を解説する。

セキュアな生成AI基盤

2023年当時は、OpenAI社のGPT® (注2)モデルが主要な選択肢であり、それを活用するために最も適したMicrosoft社のAzure® (注3)をクラウド構築基盤として選定した。実際の構築は、OKIのマネージドクラウドサービスであるEXaaS（参考文献1）を活用し、運用体制も併せて構築した。接続元を社内イントラネットに限定し、インターネットや外部からアクセスできない仕組みとした。また、運用環境も商用レベルに設定し、社内サービスではあるが強固なクラウドセキュリティの品質を確保した。

アプリケーションは、Azure OpenAI Service™ (注4)からGPTモデルをAPIとして呼び出す構成とし、常に最新のLLMを活用できるようにした。生成AIをAPIで使うことによって、社内データがAIモデルの学習用に通信されることなく利用することができる。また、Microsoft社がデータの監視を行わない契約として、社外へデータが流出しない仕組みとした。APIと連携する仕組みやユーザーが利用するフロントアプリケーションは、すべてOKIグループ内で開発した。対話記録を残さないなどセキュリティを確保しつつ、プロンプトをテンプレート化してユーザーによる共通利用を可能としたり、社内技術情報の検索をできるようにしたりするなど、活用の幅が広がるように工夫した。アプリケーションを内製したことにより、常に新しい技術が短期間で受け入れられるようになり、その後のGPTモデルのアップデートにも追従することができている。

この生成AI基盤は「OKI AI Chatシステム」という名称で2023年10月に社内公開した（図1）。

図1　OKI AI Chatシステムの画面

生成AI活用ガイドライン

前述のとおり、生成AIは革新的な性能かつ多方面にユースケースがある一方、倫理的・社会的課題が伴うリスクがある。そのため、生成AI基盤だけでなくルール・ガイドラインの整備も並行して行うことが重要である。

生成AI基盤に併せて策定した「OKI AI Chatシステム利用ガイドライン」は、単なるシステム利用のガイドラインにとどまらず、生成AI全般を活用するために遵守するルールという位置づけとしている。具体的には社員が生成AIを業務で利用する際に守るべき基準を明示し、機密情報の漏洩リスクや法的・倫理的リスクを最小限に抑えることで社員が安心安全に生成AIを活用できるようにしている。
以下に、このガイドラインの重要なポイントを記載する。

（1）利用システムの統一：

2023年当時より生成AIを利用できるパブリックの生成AIサービスが大小さまざま乱立する状況が予測されていた。今後の情報漏洩等のリスクを管理するために、業務で生成AIを利用する際は、特別な理由がない限りセキュリティが確保された生成AI基盤であるOKI AI Chatシステムを利用する事を推奨することとした。

（2）入力ルール：

社内イントラネットに限定した環境で、かつログ等の保持をしていない為、システム的な情報流出のリスクは無い。そのため、一般的な業務情報も入力することができるルールとしている。一方で、機密性の高い情報や、他人のプライバシーや機微な個人情報、権利侵害の恐れのある内容の入力は禁止している。機密性の高い情報は、個別の顧客契約、情報管理規程などの利用部門ごとに定められているルールがあり、それらを逸脱しないためである。このようなデータの入力に関しては最終的に利用部門での判断を必要としている。

（3）出力利用ルール：

生成AIの出力は、ハルシネーションのリスク、生成物が意図せず他人の権利を侵害するリスクがある。そのため、出力をそのまま資料やプログラムに反映させることは禁じている。必ず上長や責任者による確認と必要な修正を経ることとしている。また、個人情報を引き出すような使い方も禁止している。

「OKI AI Chatシステム利用ガイドライン」の基本となる考え方は、2019年に制定した「OKIグループAI原則」（参考文献2）に基づいている。AI原則は、どのような価値観でOKIがAI商品などを提供していくのかを示しており、生成AIのガイドラインもこれに矛盾しないものとなっている。また、OKIではAI原則を運用する体制として、「リスク管理」「品質」「人材育成」の観点での全社ワーキング（WG）の活動を行っている（図2）。生成AIのガイドラインにおいてもAI原則策定に関わったWGメンバーおよび社外有識者により短期間で作成した。

図2　OKIのAIガバナンス

社内向け活用推進

生成AI基盤とガイドライン整備だけでなく、並行して社内向けの活用推進活動も行っている。

生成AIにあまり触れたことのない初級者層に向けては、リテラシー向上やOKI AI Chatシステムの普及のためのセミナーやEラーニングを整備した。セミナーは外部有識者を招き、生成AIの活用方法の話題などを中心に複数回行っている。また、社内有識者による座談会も月に1回ペースで実施して広く情報発信している。従来から行っていたAIリテラシー教育に生成AIの講義を追加すると共に、システムの利用希望者にはガイドラインの内容や利用方法などが理解できる「生成AI利用者教育」を整備した。生成AI利用者教育は、2024年8月には社員の共通のスキルという位置づけとして、全社員必修の教育とした。

生成AIの活用スキルを向上させたい中級者層に対しては、集合研修やハンズオン研修、実践型のAI-CoP（参考文献3）研修も提供している。

教育に加えてユーザーが誰でも参加できるコミュニティサイトも立ち上げ、最新ニュースの情報交換やノウハウの共有など活発に行っている。2024年9月現在では、アクティブユーザー1,000人以上が参加するコミュニティとなっている。さらに、生成AIアイデアソンも実施し、グループ社員から広く活用アイデアを集めている。

生成AIの具体的な活用

一連のこのような社内向け活用推進活動により、どのような活用が行われているか具体的に説明する。OKIグループにおける生成AIの活用は大きく分けて3つのステップで進めている（図3）。

ステップ1：まずは活用を始めてみる
ステップ2：内部で知見を溜める
ステップ3：外部で知見を活かす

図3　活用のステップ

●ステップ1：まずは活用を始めてみる

ステップ1では、生成AIそのものを活用して生産性の向上を図るとともに、リテラシーおよび基本的な使い方の習得を目的にしている。

ステップ1の利用者にアンケートを取ったところ、特定のユースケースに偏ることなくさまざまな場面で利用されていることがわかる（図4）。これは生成AIの汎用性を示しており、色々なシーンでまず始めてみる必要性がわかる。

効果があったとされる事例を見ると、文書の自動添削・要約、作成補助は生成AIが得意とするところでもあり、議事録の要約、メール素案の作成や翻訳、文書の校正など個人レベルでの活用が広がっている。具体的には、システムのエラーメッセージの要約とその後の関連部門へのメール作成などが自動化され、数十分かかっていた作業が数分で完了するなど大きな生産性向上が見られた。コード生成についてもRPAの簡単なツールを生成AIに作成させ、業務にかかる工数を90%削減した報告もある。ツールが短時間で作れるようになり、自動化が進んでいなかったシーンへ波及する効果も見られた。

図4　ユースケース分布

●ステップ2：内部で知見を溜める

ステップ2では、生成AIと社内データを組み合わせて、業務の高度化を図ることを目指している。RAG（Retrieval-Augmented Generation）技術により生成AIと社内データを連携することができるため、より精度の高い回答や分析が期待できる。

システムを公開して2～3か月後には、利用部門から組織的に生成AI活用する提案が増えるようになった。その中で実施効果と実現可能性が一定以上あるユースケースについては、生成AI-PoCとして活用推進の主体となっている組織と共に実現に向けた活動をしている。

具体的な事例としては、お問い合わせ業務を担当している部門の効率化が挙げられる。この部門では過去のお問い合わせデータをRAGで検索させることで、生成AIが部門独自のノウハウを回答できるようにした。これにより繰り返し発生するお問い合わせの回答を過去事例から予測して、迅速かつ適切に対応することができるようになった。

別の事例としては、工場などの製造現場において、過去の製造設備へのお問い合わせデータと生成AIをRAGにより組み合わせた。これにより製造設備でのよくある質問や問題点への解答を提供することが自動化され、現場の作業効率が向上した。

これらのお問い合わせ業務は多くは人手で行われていたものであり生成AIによる代替で実施することで、お問い合わせを受ける社員に対する負荷が軽減されるだけでなく、お問い合わせをした側も迅速に回答を得られるというメリットがある。

業務の高度化の例として、ビジネス検討のためのフレームワーク分析（3C、PEST、SWOT、なぜなぜ）にも活用されている。OKIのイノベーション活動を補助し、原因分析などが高度化、効率化されることにより付加価値創出が一層促進されることが期待される。

●ステップ3：外部で知見を活かす

ステップ3では、OKIグループの各事業に生成AIを導入し、製品およびサービスの高度化を図ることを目指している。

コンタクトセンターや顧客窓口業務に代表されるフロント業務での活用は生成AIの得意とする領域であり、現場への適用を目指して早期から活動を続けている。オペレーターへの迅速な解決策の提案や、会話履歴を元にした報告レポートやFAQの自動作成、それらのフィードバックによりオペレーターの品質向上、顧客満足度の向上などさまざまな効果が見込める。

より高度な事業・サービスへの活用の際は、生成AIの技術だけでなく、データ連携も重要である。高度な業務の課題解決には複数の種類の業務データの活用と、それらのデータを連携させたうえで生成AIに入力する必要がある。生成AIを軸にデータ連携レベルを上げ、より付加価値を創出していく予定である（図5）。

図5　社外活用の長期ステップ

まとめと今後の展望

本稿で紹介したように生成AI基盤の開発、活用ガイドライン策定、活用推進を並行して進めて生成AIの社内浸透を実現させている。この活動は2023年5月にプロジェクトを開始し、7月にはプロトタイプ完成、10月から社内公開といったスピード感で進められた。多岐にわたる活動であったが、多くの部門が専門性を持ち寄り連携することによって、短期間で構築することができた。生成AI基盤であるOKI AI Chatシステムは安心安全に生成AIに触れられるシステムとして2024年9月現在約3,700名が利用している。今後は、最新技術をキャッチアップすると共に、整備されつつある各種AI規制に対してもスピード感を持った対応が重要であると考えている。生成AIやその周辺技術は変革のスピードが速く、いまある技術に固執することなく新しい技術を取り込む体制が必要である。活用ガイドラインも、世界各国で整備されつつあるAI関連の規制やルールを継続的に監視し対応する予定である。このような活動を通じ、より業務の高度化、生産の向上を進めながら広く事業への活用を実施していく。

参考文献

（参考文献1）マネージドクラウドEXaaS（エクサース）
（参考文献2）竹内晃一：「OKIグループAI原則」、OKIテクニカルレビュー第234号、Vol.86 No.2、p12-15、2019年12月
（参考文献3）古川雄一：「AI-CoP（実践共同体）活動ヘの取組み～AI教育と課題解決実践の両立～」、OKIテクニカルレビュー第239号、Vol.89 No.1、p40-43、2022年5月