独自開発のAI（人工知能）ソリューション「AMY」（エイミー）を提供するAutomagi株式会社（代表取締役社長：櫻井将彦、以下「Automagi」）は、機械学習技術/DeepLearningなど、企業活動に劇的な変化を促すITの先端技術を、他社に先駆けて調査、研究開発、製品化を実施しております。
このたび、Googleの研究者らが発表した汎用言語表現モデル「BERT」の論文を基盤として、当社はこの技術を活用し、さまざまなビジネス実用化の実証実験を実施していきます。
今後は、順次展開していく取り組みの中で、まず各企業の社内文書などのナレッジ・リソースから、マニュアル作成やFAQ構築などへの支援できるサービス化を考えております。

■BERT（Bidirectional Encoder Representations from Transformers）とは
2018年10月11日に、Googleより言語表現事前トレーニング手法「BERT」のオープンソースを公開。最近の言語表現モデルとは異なり、BERTは、すべてのレイヤで左右両方のコンテキストを共同で調整することによって、深い双方向表現を事前トレーニングするように設計されています。その結果、事前に訓練されたBERT表現は、1つの追加の出力層で微調整され、質問応答や言語推論などの幅広いタスクに対応する最先端のモデルを作成することができます。複数の自然言語解析(NLP)分野のタスクについて、最高性能を示しました。

■BERTの特徴

• RNN や CNN といった従来型の深層ネットワークを使わず、 Transformerという深層ネットワークを使用し、双方向の言語表現モデルを構築。
• Transformerは、2017年6月にGoogleより発表され、Google翻訳でも使用されている
• 膨大な量の文書で教師なし学習を行い、そこで得た内部状態を汎用的なモデルとして使用する
• 転移学習手法により、さまざまな特化した自然言語タスクに BERT汎用モデルの高精度判断の適用が期待できる

■実証実験と目的
このBERTの自然言語処理における成果は、自然言語理解を必要とするビジネス側面において、大幅な精度向上・文脈把握の特徴から、大きな活用拡大と応用分野の拡大が加速する可能性があると言われています。Automagiでは、日本語モデルの精度を上げる取り組みとBERT活用試作アプリケーションの開発を完了しており、このBERT基盤技術を活用したビジネス展開可能性を検証すべく、実施いただける企業を広く募集いたします。
（自然言語研究領域：マニュアルFAQ自動生成、チャットBOT精度向上など、業務ツールに関わる領域を対象）

▼デモ画像