リモート開発メインのソフトウェア開発企業のエンジニアブログです

2 posts with the tag NLP

機械学習・自然言語処理のお勧め本など

June 15, 2020

posted by 中の人(管理者)

昨年くらいから、社内では自然言語処理関連のR&Dやプロジェクトを進めています。私自身は、今のところ実装などの細かい部分には関わっていませんが、プロジェクトの責任者として基本的な知識は求められます。 本記事では、私 ...

続きを読む →

BERTについて勉強したことまとめ (2)モデル構造について

June 12, 2020

posted by miyamonz

前回は特徴と予備知識を確認しました。今回はBERTの構造についてです。 BERTのモデルの構造 BERTのモデル構造の主な部分は、TransformerのEncoderを複数重ねただけです。それに合わせて、その上下にどの ...

続きを読む →