最近、SNSを見ていて、本当に怖いなと思うことがあります。
AIでシステムを作りました！無料で使えます！という投稿に対して、どこの誰が作ったものなのか、どんな仕組みで動いているのか、安全性は確認されているのかも分からないまま、使いたいです！と反応している人が結構いるんですよね。
しかも、それが単なる便利ツールならまだしも、顧客管理や予約管理、個人情報の保存などに関わるものだったりする。
最初に伝えておきたいのですが、私は個人開発そのものを否定したいわけではありません。
むしろ、AIの普及によってプログラミングに興味を持つ人が増えたり、これまで技術的なハードルが高かったものを自分で作れるようになったりするのは、本当に素晴らしいことだと思っています。
私自身、そういう世界が広がっていくのは楽しみですし、応援したい気持ちもあります。
個人だからといって技術力が低いわけでもありません。大企業のエンジニアより優秀な個人開発者だっているでしょうし、たった一人で驚くようなシステムを作り上げる人もいると思います。
ただ、それと他人の大切な情報を預かることは、まったく別の話なんですよ。
そもそも、世界中の大企業が、莫大な資金を投じてシステムを開発しています。
専門のエンジニアが何人もいて、セキュリティを専門に担当する人がいて、日々システムを監視し、問題が見つかれば修正し、外部からの攻撃にも備えている。
それでも情報漏えいや不正アクセスは起きていますよね。
もちろん、企業規模が大きいほど攻撃対象になりやすいという側面もありますし、大企業だから安全というわけでもありません。
でも、これだけの人員と資金を投入していても、セキュリティを維持するのは簡単ではないということなんです。
そんな世界で、AIを使って数時間、あるいは数日で作ったシステムを、どうして何の疑問も持たずに信用できるのでしょうか。
もちろん、開発期間が短いから危険だと決めつけるつもりもありません。問題は、そのシステムがどうやって作られたかよりも、安全性がどこまで確認されているかです。
AIを使えば、プログラミングの専門知識がそれほどなくても、かなり高度なシステムを作れる時代になりました。
顧客情報を登録できる。名前で検索できる。予約を管理できる。メールも送れる。スマートフォンにも対応している。画面もきれいで、普通に操作する分には何の問題もない。
正常に動いていることと、安全に動いていることは、まったく違います。
顧客情報を登録できたからといって、その情報が適切に保護されているとは限りません。ログイン機能があるからといって、他人の情報にアクセスできないとは限りません。
画面上では見えなくなっている情報でも、裏側の通信を少し操作するだけで取得できてしまうような設計になっている可能性だってあります。
例えば、あるお店が顧客管理システムを使っているとします。自分のお店の顧客情報だけが表示されているので、何の問題もないように見える。
でも、システムの作り方に問題があれば、URLの一部や通信内容を変更するだけで、別のお店の顧客情報が見えてしまうこともあり得るんです。
普通に使っている限り、そんな問題には気づきません。作った本人だって、気づいていないかもしれません。
むしろ、そこが一番怖いところだと思っています。
悪意のある人が作ったシステムなら、もちろん警戒するでしょう。でも、善意で作ったシステムにも、重大な問題が潜んでいる可能性はあるんです。
開発者本人が良い人であることと、システムが安全であることは、何の矛盾もなく両立しない場合があります。
そして、AIによる開発が普及したことで、この問題はさらに複雑になっていると感じています。
以前であれば、ある程度のシステムを作ろうと思えば、プログラミングだけでなく、サーバーやデータベース、通信、認証、権限管理など、さまざまな知識が必要でした。
ところが今は、それらを十分に理解していなくても、AIに指示を出せば動くものを作れてしまう。
一方で、作ることができるようになったからといって、作ったものの問題点を見抜けるようになったわけではありません。
AIが認証機能を実装しましたと回答したとき、その認証機能がどこまで安全なのか、自分で判断できるでしょうか。
データベースを設定しましたと回答したとき、そのデータベースが外部に公開されていないか、適切にアクセスが制限されているか、確認できるでしょうか。
セキュリティ対策も実装しましたと回答したとき、何を根拠に十分だと判断するのでしょうか。
AIに作らせて、AIにチェックさせて、AIが問題ありませんと回答した。
それで本当に安心できるのでしょうか。
もちろん、AIにコードを検証させること自体は有効な方法です。人間が見落とした問題を発見できることもあるでしょう。
ただ、それは安全性を高めるための一つの手段であって、安全であることの保証ではありません。
何を確認すべきなのか、どのような問題が起こり得るのかを理解していなければ、AIの回答が十分なのかどうかさえ判断できないんです。
さらに言えば、システムというのは完成したら終わりではありません。私は、むしろ完成して公開したところからが本番だと思っています。
今日、安全に動いているシステムが、半年後も安全だとは限らない。システムを構成している部品のようなプログラムに、新しい脆弱性が見つかることもあります。
外部サービスの仕様が変わることもあります。サーバーの設定を見直さなければならないこともあります。不正アクセスの兆候を監視し、問題が起これば調査し、必要に応じて修正する。
そうした作業を継続しなければならないんです。
AIで一度システムを作れたことと、それを何年も安全に運用できることは、別の能力なんですよ。
では、SNSで無料配布されているシステムについて、その開発者がどこまで対応してくれるのか、利用する側は把握しているのでしょうか。
- もし、重大な脆弱性が見つかったら？
- もし、顧客情報が漏れてしまったら？
- もし、ある日突然サービスが終了したら？
- 開発者が忙しくなってメンテナンスできなくなったら、どうするのでしょうか。
個人開発者だから対応できないと言いたいわけではありません。
一人でも責任を持って運営している人はいるでしょうし、企業であっても十分な体制が整っていないところはあります。
ただ、利用者がその体制を確認できているのかという話なんです。
- その人のSNS投稿が面白かったから。
- ほかの人も使っているみたいだから。
- 無料だから、とりあえず試してみようと思ったから。
それらは、その人やサービスに興味を持つ理由にはなっても、大切な顧客情報を預ける理由にはならないと思うんですよね。
そして、ここからが特に考えてほしい部分です。
自分の情報を使って新しいツールを試すことと、他人から預かった情報を使って新しいツールを試すことは、まったく意味が違います。
例えば、自分の趣味で使うツールを作ったり、試したりする。
それが壊れても、自分の作業がやり直しになる程度で済むなら、リスクを理解したうえで好きに試せばいいと思います。
でも、顧客管理システムは違います。そこに入っている情報は、あなた自身の情報ではありません。お客様が、あなたの事業やお店を信用して預けてくれた情報なんです。
例えば、美容室なら、お客様の氏名や電話番号、住所、来店履歴、施術内容など。小さな会社なら、取引先の担当者情報や連絡先、商談内容など。
これらが外部に漏れたとき、困るのはツールを使っていた本人だけでしょうか。何の関係もないお客様や取引先まで、被害に巻き込まれる可能性があるんです。
- 自分が便利になりたかった。
- 無料で使えるものがあった。
- 毎月の費用を節約したかった。
その気持ちは分かります。
でも、その判断によってリスクを背負わされるのは、自分だけではないかもしれない。お客様は、あなたがお店の管理にどんなシステムを使っているのか、普通は知りません。
ましてや、そのシステムがSNSで見つけた個人開発の無料ツールなのか、どこにデータが保存されているのか、誰が管理しているのかなんて、知らないでしょう。
それでも、お客様はあなたを信用して情報を渡しているんです。その信用を、私たちはどう扱うべきなのでしょうか。もしも情報漏えいが起きたとき、お客様にどう説明するのでしょう。
- 無料で配布されていたので使っていました。
- 作った人は詳しそうだったので信用しました。
それで納得してもらえるでしょうか。少なくとも、私がお客様の立場だったら、納得するのは難しいと思います。
そして、外部サービスを利用していたからといって、顧客情報を預かっている事業者の責任が自動的になくなるわけではありません。
利用形態によって法律上の関係は異なりますが、個人データの取扱いを外部に委託する場合には、委託先を適切に選び、必要な監督をすることも求められます。
つまり、問題が起きたときに、開発した人が悪いから自分は関係ありません、という話で簡単に終わるものではないんです。
- 顧客に説明しなければならないのは誰なのか。
- 被害状況を確認しなければならないのは誰なのか。
- 必要な対応を進めなければならないのは誰なのか。
そういったことまで想像してから、使うかどうか判断してほしいんですよね。
しかも、情報漏えいの怖さは、お金を払えば元に戻るとは限らないところにもあります。一度外部に流出した個人情報は、簡単には回収できません。
コピーされてしまった情報が、その後どこに渡るのか、どのように利用されるのか、完全に把握できないこともあります。
- 流出した電話番号やメールアドレスが悪用されるかもしれない。
- お客様に迷惑な連絡が届くかもしれない。
- 取引先との信頼関係が崩れるかもしれない。
その被害は、システムの修正が終わったからといって、必ずしも終わるわけではありません。
そして、その責任を誰が取るのかという問題もあります。
仮に、個人開発者が提供したシステムに問題があり、大きな損害が発生したとします。その開発者に対して損害賠償を請求できる可能性があったとしても、実際に支払えるだけの資力があるのでしょうか。
もちろん、個人だから責任を負わないという話ではありませんし、大企業なら必ず十分な補償が受けられるという話でもありません。
大企業のサービスでも、契約内容によって賠償範囲が制限されている場合はあります。
それでも、事故対応の窓口や担当者、運営体制、責任の所在、契約条件などが整備されているかどうかは、利用する側にとって重要な判断材料になるはずです。
一方で、運営者が誰なのかもよく分からない無料ツールだったら、問題が起きたときに、どこへ連絡すればいいのでしょうか。
連絡しても返事がなかったら？
それから、もう一つ見落とされがちなことがあります。最近のツールは、単純にそのツールの中だけで完結するものばかりではありません。
GoogleアカウントやGmail、Google Drive、スプレッドシート、Notionなど、さまざまなサービスと連携するものも増えていますよね。
でも、外部サービスと連携するということは、そのツールに何らかのアクセス権限を与える場合があるということです。
- Googleでログインするだけなのか。
- Google Driveのファイルを読み取る権限まで与えるのか。
- Gmailの内容を確認する権限を与えるのか。
- メールを送信したり、ファイルを編集したりする権限まで与えるのか。
これらは全部違います。
ところが、便利そうなツールを使うために、表示された連携画面で何となく許可を押してしまう人もいると思うんです。
適切に設計された連携は、業務を大幅に効率化してくれます。問題は、何を許可しているのか理解しないまま、必要以上の権限を渡してしまうことです。
場合によっては、顧客管理ツールを使うつもりだったのに、そのツールが本来必要としない情報にまでアクセスできる状態を作ってしまうかもしれません。
また、仮に開発者本人に悪意がなかったとしても、そのツール自体が攻撃されたり、利用している外部サービスに問題が生じたりすることも考えられます。
そうなると、被害はそのツールの中だけでは収まらない可能性があります。だからこそ、使う側にも、何を渡しているのかを理解する姿勢が必要なんです。
無料で使えるものは魅力的です。私だって、同じことができるなら安い方が嬉しいですし、無駄な固定費はできるだけ減らしたいと思っています。
特に小規模事業者や個人事業主にとって、月額数百円、数千円の積み重ねが負担になることも分かります。
ただ、顧客情報を扱うような大切な部分で、費用だけを最優先にするのは、かえって高くつく可能性があるんです。
月額料金を節約できたとしても、万が一情報漏えいが起きたら、その節約額と比べものにならない負担が発生するかもしれません。
事故対応に時間を取られ、通常業務が止まり、お客様への説明が必要になり、専門家への相談費用が発生する可能性もある。
何より、それまで積み上げてきた信用を失うことがある。信用というのは、一朝一夕で得られるものではありません。
何年もかけて、丁寧に仕事をして、お客様との関係を築いて、少しずつ積み上げてきたものです。
その信用を、十分に確認していない無料ツールを使ったことがきっかけで失ってしまったら、あまりにも代償が大きいと思うんですよね。
もちろん、有料サービスなら安全というわけでもありません。
無料でも優れたものはたくさんありますし、長年にわたって多くの人に利用され、安全性の改善が続けられている無料ソフトウェアだってあります。
反対に、お金を払っていても、安全対策が十分とは言えないサービスもあるでしょう。だから、無料か有料かだけで判断してほしいわけではないんです。
- そのサービスを誰が運営しているのか。
- どのように情報が管理されているのか。
- 問題が見つかったときに対応できるのか。
- サービスが終了した場合、データを取り出せるのか。
- バックアップはどうなっているのか。
- 利用規約やプライバシーポリシーは整備されているのか。
- 事故が発生した場合の連絡先や対応方針は明確なのか。
そういったところを確認したうえで、費用とのバランスを考えるべきだと思っています。これは大企業のサービスを選ぶときも同じです。
そして、そもそもすべてのツールに同じレベルの警戒が必要だとも思っていません。
例えば、画像をまとめてリサイズするツールや、ちょっとした文字列を変換するツールを試すのと、顧客名簿をアップロードするツールを試すのでは、リスクが違います。
少なくとも、運営実態や安全対策を確認できないシステムに、いきなり本物の顧客情報を入力するようなことは避けた方がいいと思います。
試してみたいなら、まずは架空の名前や連絡先など、実在する人とは関係のないテストデータで使ってみる。必要以上のアクセス権限を与えない。外部に情報が送られる仕組みなのか確認する。
ただし、架空のデータで問題なく動いたからといって、本番環境でも安全という保証にはならないことも理解しておく必要があります。
そして、これは開発する側にも考えてほしいことです。
- AIで便利なものが作れた。
- 自分で使ってみたら、うまく動いた。
- せっかくだから、ほかの人にも使ってもらいたい。
その気持ちは本当に素晴らしいと思います。便利なものを共有する文化は、これからも広がってほしいです。
でも、他人に提供するということは、自分だけの実験とは違うということも意識してほしいんです。
特に、顧客情報や個人情報を扱うツールを公開するのであれば、利用者が安心して判断できるだけの説明は必要だと思います。
- これは試作品なのか、実際の業務での利用を想定しているのか。
- どのような情報を収集し、どこに保存するのか。
- 安全対策はどこまで実施しているのか。
- 継続的なメンテナンスは行うのか。
- トラブルが発生した場合、どう対応するのか。
まだ十分に確認できていないのであれば、実際の個人情報を入力しないでほしいと明示することだって、一つの誠実な対応だと思います。
最初から完璧なシステムを作れと言いたいわけではありません。どんな優秀なエンジニアだって、最初は初心者だったはずです。
AIでプログラミングを始めた人が、少しずつ知識を身につけて、やがて素晴らしいサービスを開発するようになる。
ただ、学習のために作ったものと、実際の業務を支えるシステムでは、求められる責任が違います。自分の中では実験のつもりでも、利用する人は本番の業務で使ってしまうかもしれません。
作った本人は軽い気持ちで無料公開したとしても、それを使う人が顧客情報を何百件、何千件と登録するようになれば、話は変わってきます。
そこにあるのは、単なるプログラムではなく、誰かの大切な情報だからです。
そして、使う側も、無料で提供してもらったからといって、確認する責任までなくなるわけではありません。開発者が善意で提供していることと、利用者が安心して使えることは別です。
ここは、お互いに意識しておく必要があると思います。
私は、AIによって誰でもシステムを作れる時代になったことを、本当に素晴らしい進歩だと思っています。
でも、誰でもシステムを作れるようになったからといって、誰でも安全なシステムを設計し、責任を持って運営できるようになったわけではありません。
知らない誰かが作ったものを使うこと自体が悪いのではありません。私たちだって、普段から自分で開発していないソフトウェアやサービスを利用しています。
問題は、何を根拠に信用しているのかということです。
- 誰が作ったか分からない。
- 運営主体も分からない。
- データの保存先も分からない。
- 安全対策も分からない。
- トラブルが起きたときの対応も分からない。
それでも、SNSで便利そうに紹介されていたからという理由だけで、大切な情報を預けてしまう。それは、あまりにも危うい判断だと思います。
Threadsを見ていると、新しいツールやサービスを応援する温かい雰囲気があると感じます。何かを作った人に対して、すごいね、使ってみたい、応援しています、と声をかける。
でも、応援することと、安全性を確認せずに利用することは別です。開発者の努力を認めることと、自分の顧客情報を預けることも別です。
むしろ、本当に応援したいのであれば、どこまで安全性を確認しているのか、どんな運用体制なのかをきちんと聞くことも大切ではないでしょうか。
それは開発者を責めることではなく、より良いサービスに育てていくための健全なやり取りだと思うんです。Xでは、こうした技術的な問題に詳しい人から、公開直後に厳しい指摘が入る場面を見かけることがあります。
ただ、少なくとも便利そうという感想だけで終わらず、その仕組みは大丈夫なのかと疑問を投げかける人がいる。
一方で、私がThreadsを見ている限り、便利そう、すごい、使いたいという反応が先行して、安全性についての議論があまり見られない場面もあります。
もちろん、見えている投稿だけでThreads全体を判断できるわけではありません。
本当に怖いのは、技術が急速に進歩している一方で、それを利用する側の危機意識が追いついていないように感じることなんです。
自分の情報なら、自分でリスクを理解して判断すればいいと思います。でも、他人から預かった情報は違います。そこには、その情報を預けた人の生活があり、仕事があり、信用があり、プライバシーがあります。
便利だからという理由だけで、その人たちまでリスクに巻き込んでいいわけではありません。何かが起きてから、そんな危険があるとは知りませんでした、では済まないこともあります。
だから、便利そうなものを見つけたときほど、一度考えてほしいんです。本当にこのツールに、その情報を渡しても大丈夫なのか。それを判断できるだけの材料が、自分にはあるのか。
分からないのであれば、分かるまで実際の顧客情報を預けないという選択も必要だと思います。疑うことは、開発者を否定することではありません。
むしろ、新しい技術を安心して活用していくためには、そういう姿勢が必要なんだと思っています。だからこそ、作る側にも、使う側にも、今まで以上に責任が求められる時代になったのではないでしょうか。
ただ、その便利さの裏側で、誰の情報を扱っているのか、誰にリスクを負わせているのかだけは、絶対に忘れてほしくありません。
自分が便利になるために、誰かの信用を危険にさらしてしまっては本末転倒です。
AIでシステムを作れることと、そのシステムに他人の人生に関わる情報を預けていいことは、まったく別の話なんです。
私は、そこだけは本当に慎重になってほしいと思っています。
