リモート開発メインのソフトウェア開発企業のエンジニアブログです

9 posts with the tag 機械学習

2020年代の自宅サーバー

July 13, 2021

posted by 中の人(管理者)

「自宅サーバー」というと、最近では自宅でビールサーバーが楽しめるサービスの方を思い浮かべる方が多いくらいマイナーなものとなっている2021年の夏ですが、現在自宅サーバーを2台運用しているので、今回は自宅サーバーについて軽 ...

続きを読む →

ELECTRAの解説

March 01, 2021

posted by miyamonz

今日はBERTの派生モデルであるELECTRAを解説しようと思います。 BERTに関しては、過去にもブログ記事を投稿していますので良かったら御覧ください。 BERTについて勉強したことまとめ (1) BERTとは? その ...

続きを読む →

BERTのモデル構造をもう少し詳しく

January 29, 2021

posted by miyamonz

以前にBERTに関する記事を投稿しました BERTについて勉強したことまとめ (1) BERTとは? その特徴と解決しようとした問題、及び予備知識 BERTについて勉強したことまとめ (2)モデル構造について BERTに ...

続きを読む →

kedroのモデルを読み込むパイプラインにおいて、同じ型のモデルを切り替える

October 27, 2020

posted by miyamonz

kedroのパイプラインで、同じ型のモデルを差し替えて利用する方法を、私が分かった&やってみた範囲で紹介します。 例えば、BERTとELECTRAにおいて、どちらも各々の事前学習モデル(のパラメータ)があるとして文書分類 ...

続きを読む →

Label Studio で教師データ作成

July 27, 2020

posted by 中の人(管理者)

機械学習にとってはデータが重要です。本記事では、機械学習の教師データを作成するときに使える Label Studio というオープンソースのツールについて紹介します。 最初に、Label Studio 自体の説明を、その ...

続きを読む →

機械学習・自然言語処理のお勧め本など

June 15, 2020

posted by 中の人(管理者)

昨年くらいから、社内では自然言語処理関連のR&Dやプロジェクトを進めています。私自身は、今のところ実装などの細かい部分には関わっていませんが、プロジェクトの責任者として基本的な知識は求められます。 本記事では、私 ...

続きを読む →

BERTについて勉強したことまとめ (2)モデル構造について

June 12, 2020

posted by miyamonz

前回は特徴と予備知識を確認しました。今回はBERTの構造についてです。 BERTのモデルの構造 BERTのモデル構造の主な部分は、TransformerのEncoderを複数重ねただけです。それに合わせて、その上下にどの ...

続きを読む →

BERTについて勉強したことまとめ (1) BERTとは? その特徴と解決しようとした問題、及び予備知識

May 22, 2020

posted by miyamonz

現在、社内の機械学習を用いたプロジェクトに関わっていて、その過程で学んだBERTについて今まで勉強したことをまとめてみようと思います。 自然言語処理(以下NLP)、とくにBERT周辺の理解したことを以下何回かに分けて書い ...

続きを読む →

JupyterHub のセットアップ

November 28, 2019

posted by 中の人(管理者)

JupyterHub は、名前からある程度想像つくとは思いますが、大雑把に言って Jupyter Notebook が複数人で使えるような環境です。 Project Jupyter | JupyterHub 今流行りの ...

続きを読む →