Всё очень просто и прозрачно)

1. Открываем изображение. Заранее обработайте его как вам необходимо и под конец (закругление краёв) подготовьте его одним слоем.

2. Теперь нам надо убрать замочек в слоях *если он есть* (изображение 1). Копируем изображение нажимая Ctrl + J и удаляем первый слой (задний план).

3. Теперь когда убрали замочек выбираем инструмент прямоугольник со скруглёнными краями (изображение 2 №1) - вверху видим настройку. Стандартный радиус (параметр округления углов) - 20 пикселей, можете выставлять по своему вкусу. И рисуем вот такую рамочку.

4. Когда нарисовали рамочку нажимаем Ctrl + Enter и получаем такую мигающую обводку.
5. Выбираем инструмент №2 показанный на изображении №2 щёлкаем по изображению правой кнопкой мыши и в открывшемся окошке выбираем - Инверсия выделенной области (изображение №3)

6. Должно получиться вот такое:

7. Нажимаем Delete и сохраняем изображение в PNG формате.

Вот что получилось: