Ай, забыл сказать, затухание по 3-м сторонам только, сверху без него для сравнения.

Так затухание же ... Кста смотрел, как у тебя с графиком sum(G(r,*)) на краях для серого G()? изломы видны? у меня немножко есть в одной проекции.

Да на любой, ты сам смотрел? видимо нет. Тоже ведь показатель качества.
И ещё хотел добавить. Живопись достаточно искусственна. Там сложно сделать плавные переходы. Натура чаще более плавна. Не так?

Дефект, нет, скорее эффект. На глаз не описать, а измерить можно. Правда твои углы добавляют эффекта, но всё равно он есть. Сказать так: сохранение последней оригинальной светлоты.

Блин провозился щас, несколько раз не то делал. В итоге описываю для сравнения со своей реализацией, с затуханием 0.98.
Картина Р. файл "crop-canv...... .jpg" (не "mirror-.......") Если ссумировать каждую строку, получится график. У тебя он на краях строго горизонтальный (для зеркала - нет). А у меня как раз верхний край без затухания , и он тоже горизонтальный. У нас обоих в этом месте есть мелкий скачок суммы. У меня ~ в районе 90.

Тот эффект КМК из-за угловых квадратов.
А сам рез-т для сравнения примерно такой (верхняя часть без затухания).

А зачем его предсказывать? при сжатии? то-то я смотрю, что ни сожму, всё потом эро становится.

А это не из-зи свёртки, неполный цикл FOR()? ты же не можешь 3х3 перемножить в углу,за пределы выйдет. Не то?

Короче, исправил 2 косяка, бордюр крашу в 2 прохода. Гладкость удовл. Артефакты зависят от края картинки и от алгоритма сглаживания, немного и от маски.

Мысль пришла. Для ТуДу можно предварительно закрасить угловой квадрант цветом одного или нескольких угловых пикселов. Мож и второго прохода не понадобится. Но гладкость зависит уже от "фотографа".
***** 99 00 ***** 02 99
***** 55 11 ***** 00 11
и т.п. На периметрах м.б. такие же разрывы. У меня каждый второй снимок такой ...

В моей радуге? Нет. Тому 3 причины.
1) Как и автор я пользую вширь 3 точки (правда в глубину ещё, зачем-то, 2.5 точки). Размытие.
2) Зелёный и малиновый практически ааппазитные цвета (дополнительные друг к другу как жёлтый и синий, красный и цианистый и т.п.)
3) Ну и принудительное затухание тоже даёт эффект сближения оттенков.

Как мысль правильная, только не в лотерею, а в преференс.

Я крашу бордюр так:
левый -правый-верх-низ. Все полностью, поэтому квадранты получаются в два прохода.
А в квадрантах нулевые начальные условия. Идея в том, чтобы задать их значением угловой точки. В моём случае это 3 вертикальных "уса" по углам. Мои усы толщиной в 2,5 точки, если б брал в глубину 1, то и толщины уса достаточно==1.

Картинка с бордюром выше сделана, кроме того с повторной покраской, т.е. углы вообще в 4 прохода. А сейчас задал усики, и за один проход без артефактов, почти не отличимо от предыдущего, зато и гладкость углов почти безупречная (если не точки не являются скачками - это проблема фотографа).
То же самое со всеми рисунками, что раньше делал.
Пока не выкладываю. А нужно ли? поверьте просто на слово ...

А вторая мысль. Вычислить бордюр и перевернуть его спиной вверх.
В рез-те рисунок имеет конкретную черную границу и виньеточки на рамке, и всё это плавн. Вот только как раз с углами тогда как быть, стыковать как багеты к портрету? под 45град

А ещё непонятно, красиво ли это всё себя поведёт в видосе.