生成AIの登場は大きな技術革新を起こしました。ChatGPTのリリースからわずか3年半程度で、精度や機能が格段に上がり、プロンプトで指示するだけでアプリが作れるまでになっています。便利になった一方で、業務担当者が制作したアプリは、担当者の異動や退職などでブラックボックス化しがちです。なぜブラックボックス化してしまうのか、それを防ぐにはどうすればいいのかを考えていきましょう。

AIエージェントでアプリ制作が可能に

マイクロソフトのCEOサティア・ナデラ氏が2024年12月に「ビジネスアプリケーションは、AI時代に崩壊する可能性がある」という趣旨の発言をし、「SaaS is dead」論として話題になりました。

この「SaaS is dead」論が2026年に再び注目を浴びています。Anthropicが1月末に「Claude Cowork」に新規機能を追加したことを発表したのがそのきっかけでした。

SNSでは、実際にClaude Coworkをはじめ、AIエージェントでアプリを作ってみた、という投稿をしばしば見るようになりました。

今のところ、それができるのはある程度ITリテラシーが高い人に限られている印象はありますが、コーディングができない非ITの人でもアプリ制作ができるようになるまでに時間はかからないでしょう。

アプリのブラックボックス化とは

ブラックボックス化とは、業務の属人化によって当人以外はその業務実態が分からなくなるような状態をいいます。

ノーコード、ローコードツールなどで、現場のスタッフでもアプリを作成できるようになりました。それ自体は便利なことなのですが、アプリを作成したスタッフの異動や退職などで、誰もメンテナンスできないといった事態が生じるようになっています。

トラブルが発生してから、ITの専門家に修正を依頼しても、どのように作成したのかがわからず、どうにもできないことや、莫大なコストがかかることなどが起こり得ます。

ブラックボックス化してしまうと、該当のアプリを使用した業務が滞ってしまうばかりか、ほかのアプリに移行しようと思ってもデータが引き継げない場合があるため、せっかく蓄積したデータも無駄になりかねません。

また、アプリのブラックボックス化は、業務の透明性が失われたり、責任の所在が不明確になったりというリスクを生むことにもなりかねません。その結果、DXの遅れや市場での競争力につながってしまうこともあるのです。

2020年頃には、RPA（ロボティック・プロセス・オートメーション）が流行し、定型業務を自動化させることが流行りました。これも属人化や業務プロセスの部分のみを扱っていたせいでブラックボックス化が進んでしまいました。

AIエージェントで作成したアプリも、属人化させてしまうと同様のことが起こる可能性は高いといえます。

ブラックボックス化させないためには

業務アプリをブラックボックス化させないためには、アプリの作成時には設計書や運用マニュアルも作成し、新たなスタッフでもアプリの仕組みを把握できる状態にしておきましょう。

業務を引き継ぐスタッフのためになるだけでなく、外注でアプリを改修することになった場合でも、設計書とマニュアルがあれば、どのようにアプリが作られているのかを理解してもらうのに役立ちます。

アプリを更新した場合には、忘れずにマニュアルも最新版にしておくことが大切です。このとき、アプリを作成した本人だけでなく、第三者にも目を通してもらいチェックしておきます。可能であれば、アプリを複数人で管理できる体制にしておくといいでしょう。

担当者が替わるときは、余裕をもった引継ぎ期間を設けて、内容を把握できるようにします。

業務の棚卸を行い、全社で共通のアプリを作成するシステムが作れれば、ブラックボックス化を防ぐための対策になりますので、今後の施策としてぜひ検討されてはいかがでしょうか。

アプリ制作時にはセキュリティ対策も

ITリテラシーの高くないスタッフが作成したアプリは、ブラックボックス化以外に、セキュリティの問題が生じる可能性があります。

アプリは共有で使うことが大半ですから、必然的にネットワークにつなぐことになります。

設計や実装に問題があると、アクセス制御が不十分だったり、インジェクション（不正な文字列を入力してデータの改ざんや盗みを行う）が起きたり、脆弱性が生じたりといったことが考えられます。

セキュリティの設定ミスがあれば、簡単に侵入を許してしまうことになりますし、暗号化に失敗すると、データを盗まれたときに機密情報が守れません。このような問題も、アプリ作成時は注意が必要です。

関連記事：AIで効率化できる人とできない人の違い～同じAIを使っているのに生産性が変わる理由
https://hypervoice.jp/ai-skill-gap

あらゆる部門の「判断業務」を自動化 | ナレフルチャット

ナレフルチャットのAIエージェントは、誰でも、ノーコードで簡単に作成可能。情報システム部から営業、社内の問い合わせ対応まで、幅広く全社の業務効率を改善します。

詳細はこちら：ナレフルチャット - HYPER inc

なお、ナレフルチャットの基本情報や生成AIの使い分けについては以下の記事で詳しく解説しています。こちらも参考にしてください。

関連記事：安全に使える生成AI「ナレフルチャット」

まとめ

AIエージェントの登場で非ITスタッフでもアプリを作成できるように
業務スタッフがアプリを作るときは設計書やマニュアルも同時に作成を
生成AIでアプリを作成するときはセキュリティにも注意