雑多な趣味の記録帳

tom01h.exblog.jp

基本ネットワークの変更

バイナリニューラルネットで遊び始めたころはあまり良く分かっていなかったこともあって、全結合層のパラメータがとってもたくさんある構成になっていました。多分層間のバランスが悪いのは良くないのかと思い、ベースにするネットの構成を見直そうと思います。こんな感じ。
f0054075_19020293.png
で、学習させてみたのですが、Test Accuracy は 80% くらいで打ち止めです。多分テストデータが足りなくて過学習なのでしょうね。というわけで、水増しとかも取り入れて、学習方法も見直してみました。100% に張り付いていた Train Accuracy は下がりましたが Test Accuracy はあまり上がりません。下は、今まで使っていたネット(左)と新しいネット(右)の比較です。
f0054075_21462590.png
精度は微妙に上がっていますがパラメタ数は半分くらいに減っています。計算時間は倍増しました。

[PR]
トラックバックURL : https://tom01h.exblog.jp/tb/29852344
トラックバックする(会員専用) [ヘルプ]
※このブログはトラックバック承認制を適用しています。 ブログの持ち主が承認するまでトラックバックは表示されません。
by tom01h | 2018-06-14 20:53 | Trackback | Comments(0)