いじめを防ぐための対応策の一つとして滋賀県大津市と日立システムズが開発した「いじめ予測分析システム」があります。AIが過去データを分析し、いじめが深刻化するリスクを瞬時に判断する仕組みで、人手不足が続く教育現場への導入を呼び掛けているそうです。

AIという最新技術で　いじめを解決できるかもと期待する人がいる一方、本当に解決できるの？と疑問に思う方もいるのではないでしょうか。

■データに関する疑問あれこれ

このニュースを見て、大半の人が疑問に思うことは、以下の３つです。

　　　◇　　　◇

（１）システム内のいじめのサンプルデータ数はそろっているのか？

AIは、サンプルデータの数が鍵です。少ないデータでは対応できません。どのくらいのデータを使っているかが気になるところでしょう。

　　　◇　　　◇

（２）システム内のデータは正確なのか？

使われるデータはどんなものなのか、という問題です。

教員が認知したいじめの事案を元にしているならいくらAIを用いても、教員それぞれの判断に左右され、何をいじめと定義するかによって、データとして正しいかわかりません。

また、前例がないような、いじめパターンだと検知できず意味がないのではないかということです。いじめは年々巧妙かつ種類も変わってきています。過去のデータと照らし合わせても合わない事が多いのではないかという懸念があります。

その為には、システムにいじめの新しいサンプルのデータを加え、最新の情報に更新していく必要があるのではないかとも思うのです。

　　　◇　　　◇

（３）AIで判定するようなものか

AIが出したデータを盲目的に信じるのか？まだまだAIに対する嫌悪感がある人も多いようです。「深刻化リスクを予測しているというパフォーマンスじゃないか」という厳しい意見もあり結果いじめを見逃したら、AIのせいにするのではないか。AIを信じ勝手な解釈をして、「これはいじめではない」とか「深刻化しない」と判断してしまうのではないかという批判が多いようです。

■いじめを予測できても意味がない？

予測ができても結局は現場の教員や人が動かなければ、意味がありません。いじめは放置するとエスカレートすることが多く、教員が知っていながら放置したり、学校がいじめを見て見ぬ振りをしたりすると、いじめはひどくなります。わかっていて隠蔽するケースがほとんどじゃないか！と思っている人もいることでしょう。

AIで高リスクと判断された場合、どういう対策を学校が行うのか、方針などをしっかりと策定して実施しなければ意味はないのです。私達が怒っているのは、学校でいじめが起こっているということよりも、いじめを放置したり隠蔽したりする学校の体質ではないでしょうか。いじめが予測できるとか、発見が早くなるというまえに、仕組みを変える必要があるように思います。

■それでも取り組む姿勢が大切

批判もある一方で、AI導入により、いじめ問題による関心が高まったり、いじめのデータが集まったりすることにより、何かしらの糸口が見つかるかもしれません。

今、困っていたり、苦痛を訴えていたりする子どもがいれば、ただちにその行為をやめさせる。もちろんこれが第一優先ですが、一部AIの力を借りて、それによって生まれた時間を教員が子どもとの時間に使うということであればシステムの導入もいいかもしれません。

いじめはどうしても起こってしまいます。どんなに対策をしても、「いじめの芽」はでてしまうのです。でもこの「芽」がひどくならないようにする。いじめの解決は、教員の対応力向上も必要ですが、学校や教員だけに任せるのではなく、専門家や警察、つまり、外部への委託・連携も大切です。

どんな素晴らしいAIを使おうとも、判断基準や対応を人間が構築できなければ、解決はできません。このAIの取り組みを皮切りに個々のいじめに対する理解がより深まり、解決したいという人間の意志がAIを進化させ、いじめ対策が多岐にわたる未来がくることを願っています。

◆くま ゆうこ　デジタルハラスメント対策専門家。株式会社マモル代表取締役社長。自身の強みであるWebマーケティングのノウハウを活かし、 いじめや組織のハラスメントを未然に防ぐシステム「マモレポ」を開発する傍ら、学校コンサルティング、いじめ・ハラスメントのセミナー登壇、執筆を行う。