機械学習関連のトピックだけでなく、SEOの分野でも「BERT」という言葉を最近見かけるようになってきました。今回はこのBERTについて少し調べてみましたので、書いてみたいと思います。
BERTとは自然言語処理のアルゴリズムになります。「単語のみではなく、単語が含まれる文章から文脈を理解」できるのが特徴で、単語を抽出するのではなく自然文のような形式でクエリを投げてマッチさせるような活用が期待できます。実際にGoogleの検索エンジンにも導入されているそう。
【BERT（バート）アルゴリズムとは？基礎情報と必要なSEO対策について】
https://ferret-plus.com/13991
もう少し詳細な仕組みは、以下の記事で解説されています。
BERTに文脈を理解させるには、事前学習が必要になるのですが、その事前学習では「隣り合った２つの文の予測問題から、文章単位での意味表現を獲得」しています。また、転移学習も可能なので、すでに作成されたモデルを使って別のタスクに活用するといったこともできるようになってます。
【BERTは何がすごいのか？】
https://ainow.ai/2019/05/08/166723/
BERTの活用事例としては、下記の記事で挙げられているチャットボット。従来の機械学習では大量の問い合わせ・回答データを学習して考えられる答えを推定する形でしたが、BERTを活用することで、同じ意味合いを持つ問い合わせをクラスタ化でき、学習に必要となるデータも削減できるのではとのこと。
【ユーザーローカル、Google発の自然言語処理モデル「BERT」採用 チャットbotの構築を効率化】
https://www.itmedia.co.jp/news/articles/2002/06/news068.html
