余談 Differentiable Programming(微分可能プログラミング)という捉え方がとても素晴らしいと個人的に思います． 詳しくは以下のブログを見てください． bonotake.hatenablog.com 最急降下法による最適化 機械学習フレームワークのPyTorchを使って単純に最急…

GPyTorchとは PyTorch上で実装されたガウス過程(GP)のライブラリである． ハイパーパラメータをPyTorchのシステムを使用してGPUなどで最適化できるのが特徴である． GPは逆行列を計算する際に の計算量がかかり，スケーラビリティに難があるが，PyTorchのシ…

カーネル密度推定をしてエントロピーを計算する方法を忘備録として書いておく． 標準正規分布を例にとって計算してみる． ちなみに理論値は import numpy as np import matplotlib.pyplot as plt from scipy import integrate from scipy.stats import norm …