EXP: エージェントのAttention解釈性~壁追加編~ #23
Description
同距離にイベントが存在する場合
結果
- 初期状態
- 次ステップ
考察
- いつも通りの行動（右に近づいていく）
エージェントの右側に壁を一列追加
結果
-
初期状態
-
次ステップ
考察
- 壁を避けるために左に移動している
- 壁にはAttentionは当てられてない
- この状況は学習過程にないが合理的に行動できている
エージェントの右側に壁一列、左側にエージェントを追加
結果
-
初期状態
-
次ステップ
考察
- 左へではなく、上に移動
- 壁、エージェントの位置によって合理的な移動をとっている
エージェントの左右に壁を一列ずつ追加
結果
-
初期状態
-
次ステップ
-
次ステップ
考察
- 壁に沿って移動している
- 途中壁に対してAttentionが当てられている
- 壁が隣接する時のみ
エージェントの左右に壁を一列ずつと他エージェントを追加
結果
-
初期状態
-
次ステップ
考察
- 今回は右に移動
- 途中エージェントと壁の両方に対してAttentionが当てられている
- 壁に対しては隣接する時のみ
- エージェントに対しては常に