{"nbformat":4,"nbformat_minor":0,"metadata":{"colab":{"provenance":[]},"kernelspec":{"name":"python3","display_name":"Python 3"},"language_info":{"name":"python"}},"cells":[{"cell_type":"markdown","metadata":{"id":"CCXM5mCrWcX9"},"source":["# Градиентные методы"]},{"cell_type":"markdown","metadata":{"id":"pU3WC-KdWcX9"},"source":["## Vanilla Gradient"]},{"cell_type":"markdown","metadata":{"id":"HY3GhVlYWcX9"},"source":["### Идея метода"]},{"cell_type":"markdown","metadata":{"id":"jT4HjRDLWcX9"},"source":["Имея информацию о структуре модели, можно использовать градиент, чтобы понять, как входы связаны с выходом.\n","\n","Градиент указывает направление возрастания функции. Если мы выберем **logit, соответствующий метке наиболее вероятного класса**, и посчитаем для него **градиент по исходному изображению**, мы можем узнать, какие пиксели нужно “усилить”, чтобы модель была более уверена в ответе."]},{"cell_type":"markdown","metadata":{"id":"g7ohPAX8WcX9"},"source":["

\n","\n","Source: Deep Inside Convolutional Networks: Visualising Image Classification Models and Saliency Maps\n",""]},{"cell_type":"markdown","metadata":{"id":"7iDqfR47WcX-"},"source":["Тут важно заметить, что пример из статьи на картинке выше — это **cherry picked** (специально отобранный пример, для которого данный метод дает хороший результат). Давайте посмотрим на нашей картинке."]},{"cell_type":"markdown","metadata":{"id":"xZaedrpNWcX-"},"source":["###Пример изображения (ResNet18)"]},{"cell_type":"markdown","metadata":{"id":"zScyYLbIWcX-"},"source":["Загрузим изображение"]},{"cell_type":"code","execution_count":null,"metadata":{"id":"27z-SzfaWcX-"},"outputs":[],"source":["!wget -q 'https://edunet.kea.su/repo/EduNet-additions/GM/cat_and_dog1.jpg' -O cat_and_dog1.jpg\n","!wget -q 'https://edunet.kea.su/repo/EduNet-additions/GM/imagenet_class_index.json' -O imagenet_class_index.json"]},{"cell_type":"code","execution_count":null,"metadata":{"id":"rMtXgjWaWcX-","colab":{"base_uri":"https://localhost:8080/","height":324},"outputId":"b8db34b7-4974-4fe1-b268-725ae03e9fff"},"outputs":[{"output_type":"display_data","data":{"text/plain":["