ケーススタディ(カテゴリ:生成AI利用問題)

ケーススタディ(カテゴリ:生成AI利用問題)


会社概要

  • 業種:産業機械部品メーカー
  • 所在地:浜松市
  • 従業員数:48名
  • 年商:8.5億円
  • 営業利益:3,200万円
  • 借入状況:地銀2行から運転資金借入あり
  • 主力商品・サービス:食品工場向け搬送装置部品の製造
  • 主要顧客:地場製造業、大手メーカーの一次下請企業
  • 組織体制:創業社長(67歳)、営業部8名、製造部26名、管理部6名、設計開発部8名
  • 社長の性格:現場主義だがITに疎い。社員への情は厚い。

相談者

  • 誰が相談に来たか
     管理部長(52歳)
  • 何に困っているか
     社内で生成AI活用が急速に広がり、顧客情報や設計データの取り扱いが問題になっている。
  • 本人が問題だと思っていること
     「ルール違反した社員を処分すれば解決する」
  • 実際の本質的問題
     会社としてAI利用方針が存在せず、業務効率化への期待と情報漏えいリスクのバランスを誰も設計していない。

現在起きている問題

約8か月前、若手営業社員が提案書作成に生成AIを使い始めた。

提案書作成時間が半減し、営業部内で評判になった。

その後、

  • 営業部は顧客とのメール文面作成
  • 設計部は仕様書要約
  • 管理部は契約書のたたき台作成

などで生成AI利用が拡大した。

社長はよく分からないまま、

「便利なら使えばいい」

と黙認していた。

ところが先月、大口取引先の担当者から連絡が入った。

営業担当者が生成AIに入力したプロンプトの中に、

  • 顧客名
  • 製品名
  • 開発スケジュール
  • 納入計画

などが含まれていた可能性があるという。

直接の漏えい事故は確認されていない。

しかし取引先の情報システム部門は強く反発している。

さらに調査すると、

設計部では一部社員が図面データを外部AIサービスにアップロードしていたことも判明。

一方で現場からは反発も出ている。

営業部長は、

「AIを禁止したら売上が落ちる」

と主張。

設計課長は、

「人が採れない以上、AIなしでは仕事が回らない」

と言う。

若手社員は、

「今さら禁止されても困る」

という空気。

しかし管理部は、

「このままでは取引停止リスクがある」

と危機感を強めている。

社内では、

  • 管理部 vs 営業部
  • ベテラン社員 vs 若手社員

の対立も始まっている。

さらに主要取引先1社からは、

「AI利用ルールの提出を求める」

という文書が届いた。

仮に取引停止になると売上の18%が失われる。

SNS等への公表はされていないが、もし情報漏えい疑惑が広がれば採用や取引にも影響する可能性がある。

法的には、

  • 秘密保持契約(NDA)
  • 善管注意義務
  • 個人情報保護
  • 顧客との契約義務

などが論点になり得る。

しかし現時点で事故は未確定である。

社長は、

「大騒ぎにして社員のやる気をなくしたくない」

と言っている。


問い

あなたなら、この状況で最初に何を優先するか?

選択肢

1. 生成AIの利用を即日全面禁止し、全社員に通達する。まず法的リスクを止めることを優先する。

2. AI利用を継続させながら、問題になった社員だけを処分し、顧客には個別説明で対応する。

3. 顧客・図面・個人情報など高リスク情報の入力を即停止し、事実調査と暫定ルール策定を最優先で実施する。

4. 取引先への説明よりも先に、社内のAI活用成功事例を整理し、全社DX推進計画を策定する。

5. 取引先からの指摘は過剰反応と判断し、正式な事故が確認されるまで現状維持とする。


1〜5の番号で回答してください。

3

採点結果

あなたの選択:3番
点数:100点


評価

3番は、このケースで最も優先順位が適切です。

この問題は、

「AIを使うか使わないか」

ではありません。

本質は、

「どの情報が危険で、どの業務なら許容できるかを整理しないまま利用が拡大したガバナンス不在」

です。

現時点では、

  • 漏えい事故は未確定
  • しかし顧客は不信感を持っている
  • 取引停止リスクが現実化している
  • 社内ではAI依存が進んでいる

という状況です。

全面禁止も危険ですが、放置はさらに危険です。

そのため、

①高リスク情報の流入停止 → ②事実調査 → ③暫定ルール → ④顧客説明

という順番が最も実務的です。


最善策

3. 顧客・図面・個人情報など高リスク情報の入力を即停止し、事実調査と暫定ルール策定を最優先で実施する。


理由と背景

法律面

現段階では事故が確定していません。

しかし、

  • NDA違反
  • 契約違反
  • 個人情報保護法違反
  • 営業秘密管理上の問題

が潜在しています。

事故の有無を確認せずに

「大丈夫だった」

と判断するのは危険です。

まず事実確認が必要です。


経営面

最大の経営リスクは、

売上18%依存先の不信感

です。

AI利用禁止より先に、

「会社として管理している」

という姿勢を示さなければなりません。

顧客が見ているのは、

AI利用そのものではなく、

管理能力

です。


財務面

仮に主要取引先を失うと、

利益の大部分が吹き飛ぶ可能性があります。

一方、

AI全面禁止による生産性低下も損失です。

そのため、

高リスク業務だけを止めるのが合理的です。


組織面

営業部と管理部が対立しています。

全面禁止を行うと、

若手社員や営業部の反発が強まり、

組織分断が進みます。

逆に放置すると、

管理部は経営陣への不信感を持ちます。

まずは

「危険な利用だけ止める」

という共通認識を作るべきです。


人間関係

処分先行は危険です。

なぜなら、

会社がルールを作っていなかったからです。

社員側から見ると、

「使えと言われていたわけではないが、黙認されていた」

状態です。

まず組織責任を認めるべきです。


実行可能性

即日実施可能です。

  • 図面アップロード禁止
  • 顧客名入力禁止
  • 個人情報入力禁止

は即日通知できます。

その後に詳細設計ができます。


時間軸

24時間以内

利用実態調査開始

1週間以内

暫定ガイドライン

1か月以内

正式規程策定

3か月以内

教育と監査体制

という流れになります。


二次被害リスク

最も怖いのは、

「実は他にも入力していた社員がいた」

ケースです。

調査前に安全宣言すると、

後から発覚した際に信頼を失います。


他の選択肢の評価

1番

70点

全面禁止は法的リスク低減には有効です。

しかし、

  • 現場反発
  • 生産性低下
  • AI活用機会喪失

が発生します。

初動としては強すぎます。


2番

60点

社員処分は早すぎます。

会社がルールを作っていない以上、

組織責任が先です。

スケープゴート化すると、

隠蔽文化が生まれます。


3番

100点

最もバランスが良い。

事故拡大防止と事業継続を両立できます。


4番

80点

将来的には必要です。

しかし今は危機対応局面です。

火事の最中にDX計画を作る優先順位ではありません。


5番

60点

危機管理として不十分です。

取引先は既に問題視しています。

現状維持は事実上の放置です。


実務的な考え方

このケースで守る順番は次の通りです。

第1優先

顧客との信頼

↓

第2優先

情報漏えい拡大防止

↓

第3優先

事実確認

↓

第4優先

業務継続

↓

第5優先

AI活用促進

多くの会社は、

AI推進かAI禁止か

という二択で考えます。

しかし実務では、

「何を入力してはいけないか」

を定義することの方が重要です。


初回面談で確認すべき事項

  1. 使用しているAIサービス一覧
  2. 有料版か無料版か
  3. 利用部門ごとの利用状況
  4. 図面アップロード件数
  5. 顧客情報入力件数
  6. 個人情報入力有無
  7. NDA内容
  8. 主要顧客契約内容
  9. AI利用に関する既存規程
  10. ログ取得可能性
  11. 顧客からの指摘文書内容
  12. 社長の危機認識
  13. 取引先依存度
  14. 類似事案の有無
  15. 社員教育履歴

次のアクション

1週間以内

  • 高リスク入力の即時停止
  • 利用実態調査
  • 顧客説明方針決定
  • 暫定ガイドライン作成
  • 管理責任者選任

1か月以内

  • AI利用規程制定
  • 入力禁止情報定義
  • 全社員研修
  • 契約書確認
  • 主要顧客との認識合わせ

3か月以内

  • AI利用監査
  • 承認フロー整備
  • 社内向け安全利用マニュアル作成
  • 利用ログ管理
  • AI活用領域の再設計

関連法令・制度

【関連法令・制度】

  • 法律名:個人情報の保護に関する法律
  • 条文番号:要確認(利用目的・安全管理措置等)
  • 要旨:個人情報の適正管理を求める
  • 実務上の意味:AI入力時の個人情報管理が重要
  • 公式URL:e-Gov法令検索(個人情報保護法)

【関連法令・制度】

  • 法律名:不正競争防止法
  • 条文番号:営業秘密関連規定
  • 要旨:営業秘密の保護
  • 実務上の意味:図面・仕様情報の外部入力が問題化する可能性
  • 公式URL:e-Gov法令検索(不正競争防止法)

【関連法令・制度】

  • 制度名:個人情報保護委員会 のAI・個人情報関連ガイダンス
  • 要旨:AI利用時の個人情報取扱い指針
  • 実務上の意味:社内ルール策定時の参考になる
  • 公式URL:個人情報保護委員会

このケースでは、「AI推進」か「AI禁止」かではなく、顧客信頼を守りながら利用ルールを作ることが最優先でした。

ありがとう、知識整理ができたよ。

どういたしまして。

このケースは法律論だけで考えると「漏えいの有無」や「規程違反」に目が行きがちですが、実際の経営判断では、

  • 顧客信頼をどう守るか
  • 売上への影響をどう抑えるか
  • 現場の生産性をどう維持するか
  • 社内対立をどう広げないか
  • 将来のAI活用をどう残すか

を同時に考える必要があり、非常に実務的な題材だと思います。

単に「AI利用規程を作りましょう」という話よりも、

「問題はAIではなく、ルール不在のまま現場任せになったこと」

という切り口の方が、中小企業経営者には響きやすいと思います。

また、

AIを止めるべきか、進めるべきか。

ではなく、

何を入力してはいけないのかを決めるのが経営の仕事である。

という流れにすると、法律・経営・現場運営をつなげやすくなります。

【お問い合せ・無料相談】
一般社団法人いきいきライフ協会八王子東(伊橋行政書士法務事務所内)
TEL042-678-5225
https://ihashioffice.info/public_html/startup/