自作の​AIアプリを、​社内の​業務で​使う前に試作を​本番運用に​移すときに​足す​5つのこと

試作を​毎日の​業務で​使える​形に​する​相談は、AI導入支援・業務効率化で​受けています。

試作が​動いたことと、​業務で​使えることは​違う

ChatGPTの​GPTsや​ノーコードの​道具で、​注文書を​読んで​表に​する​アプリや、​問い合わせに​返信の​下書きを​つける​アプリを​作ってみた。
自分で​何十回か試すと、​思った​以上に​うまく​動く。
次は​「これを社内の​みんなで​使えるように​したい」と考える​段階です。

その前に​確かめたいのは、​試作が​うまく​動いた​条件です。
作った​本人が、​試しの​データで、​自分の​アカウントから​使っている。
業務で​使うと、​これが​全部​変わります。
使う​人は​複数に​なり、​データは​本物に​なり、​アカウントは​会社のものに​なります。

1. だれが​使えて、​何を​見られるかを​決める

最初に​足すのは、​ログインと​権限です。
試作は​「URLを知っている​人は​だれでも​使える」形になっていることがあります。

IPA​（情報処理推進機構）の「安全なウェブサイトの​作り方」は、​ウェブサイトで​届出の​多い、​または​影響の​大きい​脆弱性として​11種類を​挙げ、​その​1つに​「アクセス制御や認可制御の​欠落」を入れています​（IPA：安全な​ウェブサイトの​作り方、​改訂第7版第4刷 2021年3月31日公開、​2026年10月15日確認）。
ログインしなくても​使えてしまう​作りや、​ログインさえすれば​ほかの​部署や​ほかの​お客様の​記録まで​見えてしまう​作りが、​これに​含まれます。

決めるのは、​使う​人の​一覧と、​それぞれが​見てよい​範囲です。
営業は​自分の​担当の​取引先だけ、​経理は​全部、​外部の​協力会社は​自分が​入れたものだけ、のように​書き出してください。
人が​辞めたときに​使えなくする​手順も、​このとき​一緒に​決めます。

2. 入力と​結果を、​どこに​置いて​何日残すかを​決める

次は、​データの​置き場所です。
ノーコードの​道具や​AIの​サービスで​作った​試作は、​入力も​結果も、​その​道具を​提供する​会社の​環境に​保存されていることがあります。
どの​国の​どこに、​何日残るのかを、​作った​本人も​知らないことがあります。

個人情報を​扱うなら、​ここは​社内で​決めないと​いけません。
個人情報保護委員会は、​生成AIの​サービスに​個人情報を​含む​指示を​入れる​事業者に、​特定した​利用目的を​達成するために​必要な​範囲内かを​確かめることと、​提供者が​その​個人データを​機械学習に​使わないことなどを​確かめることを​求めています​（個人情報保護委員会：生成AIサービスの​利用に​関する​注意喚起等、​2023年6月2日公表、​2026年10月15日確認）。

ここからは​私の​考えですが、​試作を​業務に​移すときは、​入力と​結果を​保存する​場所​（自社の契約の​クラウドか、​道具の​提供者の​環境か）と、​残す期間、​消すときの​手順を​決めておきます。
試作のまま​使い続けると、​どれも​「道具の初期設定の​まま」になります。

3. AIに​外の​文書を​読ませるなら、​紛れ込んだ​指示に​従わない​作りに​する

お客様からの​メールや、​取引先から​届いた​ファイル、​ウェブの​ページを​AIに​読ませる​アプリでは、​もう​1つ​備えが​要ります。
読ませた​文書の​中に、​AIへの​指示が​書き込まれている​場合です。

OWASP GenAI Security Project の​「LLMアプリケーションのTop 10」（2025年版）は、​1番目に​「プロンプトインジェクション」を挙げ、​AIが​ウェブの​ページや​ファイルなど外の​文書を​読んだとき、​そこに​埋め込まれた​指示に​従ってしまう​場合を​「間接プロンプトインジェクション」として説明しています。
対策には、​AIに​渡す権限を​用途に​要る​分だけに​絞ること、​つなぐ​先の​鍵は​AIに​渡さず​プログラムの​側で​持つこと、​影響の​大きい​操作の​前には​人の​承認を​挟むことを​挙げ、​確実に​防げる​方法が​あるかは​まだは​っきりしないとしています​（OWASP GenAI Security Project：LLM01:2025 Prompt Injection、​2026年10月15日確認）。

試作では、​AIに​メールの​送信や​表の​書き換えまで​任せていることがあります。
業務で​使う形に​するときは、​AIには​下書きと​読み取りまでを​させ、​送る​・消す・登録するの​操作は、​人が​確かめてから​押す形に​分けます。

4. 止まったとき、​間違えたときの​動きを​決める

AIの​サービスも、​つなぐ​先の​システムも、​止まることがあります。
AIは​同じ​入力でも​毎回​同じ​答えを​返すとは​限らず、​間違えることもあります。

業務で​使うなら、​次の​2つを​決めておきます。
止まったときは、​待ち時間の​上限を​決めて、「いまは使えません、​この​手順で​手作業に​戻してください」と画面に​出す。
間​違えたときに​備えて、​AIの​結果は​下書きとして​出し、​人が​確かめてから​登録する。
金額、​在庫、​お客様への​返信のように​影響の​大きい​結果は、​人の確認を​外さない​前提にします。

あわせて、​だれが、​いつ、​何を​入れ、​AIが​何を​返し、​だれが​確かめたかを​記録に​残します。
間​違いが​見つかったとき、​どこから​直せば​よいかが​この​記録で​分かります。

5. AIの​契約、​アプリの​名義、​直す人を​決める

最後は​名義です。
試作は、​作った​人の​個人の​アカウントで、​個人の​クレジットカードで​AIの​サービスを​契約していることがあります。
その人が​異動したり辞めたりすると、​アプリごと​使えなくなります。

業務で​使うなら、​AIの​サービスの​契約、​アプリを​置く​クラウドや​ノーコードの​道具の​契約、​つなぐ​先の​鍵を、​会社の​名義に​移します。
そのうえで、​アプリを​直す人を​決めます。
社内の​だれかが​続けて​直せるなら​その人、​難しければ​外部に​保守を​頼みます。
外部に​頼む場合も、​契約と​鍵は​会社の​名義のままに​しておくと、​頼む先を​替えるときに​困りません。
保守の​契約で​確かめることは、システムの​保守契約で​確かめることに​書きました。

私たちが、​自社の​診断の​道具を​公開するときに​足したもの

私たちも、​この​サイトで、​AI検索に​読み取られやすい​作りかを​採点するLLMO簡易診断という​道具を、​2026年10月8日に​公開しました。
入力された​URLの​ページを​取りに​行き、​決まった​基準で​点数を​つけて​返す道具です。

公開する​前に​足したのは、​点数を​つける​部分とは​別のことでした。
だれでも​URLを​入れられる​道具は、​社内の​ネットワークの​中など、​取りに​行ってはいけない​先を​指定される​心配が​あります。
そこで、​取りに​行く​先を​確かめてから​接続し、​社内向けの​アドレスには​接続しない​作りに​しました。
1回に​待つ時間と、​取りに​行く​ページの​大きさにも​上限を​設けています。
同じところから​短い​時間に​何度も​使われないよう、​10分に​5回までに​絞りました。
返すのは​点数と、​まず​直したい​項目だけで、​取りに​行った​ページの​本文は​返しません。
外部の​サービスの​鍵は、​プログラムの​中には​書かず、​クラウドの​秘密情報の​保管場所から​読む形に​しています。

どれも、​作った​本人が​試すだけなら​要らないものです。
ほかの​人が​使う​前提に​なったときに​初めて​要るものだと、​私は​考えています。

試作を​育てるか、​作り直すか

試作に​5つを​足して​育てるか、​試作は​見本に​して​作り直すかは、​次の​2つで​決めています。

1つ目は、​データの​置き場所と​残す期間を、​自社で​決められるか​どうかです。
使っている​ノーコードの​道具や​AIの​サービスが、​会社の​名義での​契約、​学習に​使わない​設定、​保存の​場所と​期間の​指定に​対応していれば、​育てられます。
対応していなければ、​置き場所を​自社で​決められる​形に​作り直します。

2つ目は、​ほかの​人が​使う​画面が​要るか​どうかです。
使うのが​少人数で、​全員が​AIの​サービスの​画面に​慣れているなら、​使い方の​手順を​そろえるだけで​足りることもあります。
決まった​画面に​入れて​結果を​確かめるだけに​したい、​権限を​細かく​分けたい、​今の​業務システムに​結果を​書き込みたい、となれば、​AIの​APIを​使った​システムとして​作り直したほうが、​結果的に​早く​済むことが​多いと​私は​考えています。

作り直す​場合も、​試作は​無駄に​なりません。
どんな​入力に、​どんな​結果が​欲しいかが、​試作の​中に​もう​書かれているからです。
試作で​使った​指示の​文と、​うまく​いった​例・うまく​いかなかった​例を​残しておいてください。
生成AIを​業務システムに​組み込む​開発を​外に​頼むときに​渡すものは、生成AIの​システム開発を​外注する​前にに​まとめています。

bundlyzeは​大阪市北区の​グラングリーン大阪を​拠点に、​業務システムの​受託開発と​AI導入支援を​しています。
全国から​ご相談いただけます。
打ち合わせは​Web会議でも、​対面でも​可能です。
この​記事を​書いた​津嘉山は、​業務システム開発と​AWSを​専門と​する​エンジニアで、​自社の​サイトの​道具や​集計の​仕組みも​自分で​作り、​公開して​運用しています。

手元に​試作が​あるなら、​使う​人の​一覧と、​AIの​サービスの​契約が​だれの​名義に​なっているかを、​まず​確かめておくと​話が​早く​進みます。