|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
Привет, нужно обойти защиту при скачивании контента скйта. Решил имитировать ГуглБот-а. Подмена заголовка проблему не решает. Возможно проверяют по обратному DNS. Отсюда и вопрос. Вообще интересует данная тема, может есть другие предложения, сторонние решения? Спасибо. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 08:25 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
WitC, Правилами форума запрещены обсуждения способов взлома http://www.sql.ru/forum/rules.aspx Запрещается: публикация серийных ключей, лицензий, способов взлома ПО и других методов, которые можно квалифицировать как преследуемые по закону; ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 08:41 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
Cat2, опа, с сайта я хотел забрать публичные данные для аналитической статистики. сайт защищается капчей google recaptcha2 после нескольких десятков обращений. ни каких взломов паролей, ни какой DDOS-атаки. просто сканировать контент и забирать от туда публично-доступные данные для статистики. т.е. я руками и глазами данные собирать могу, а программным средством запрещено законом? и подмена IP адреса в IP-пакетах уголовно наказуемо? а как же куча программ-роботов? тот же гугл со своими поисковыми/индексирующими роботами? ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 09:30 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
WitCопа, с сайта я хотел забрать публичные данные для аналитической статистики. сайт защищается капчей google recaptcha2 после нескольких десятков обращений. Ну так сайт и защитился именно от таких "собирателей". По каким причинам - личное дело сайта. Может чтобы не перегружали запросами, может еще зачем. По-хорошему к владельцам сайта надо обращаться, если инфа публичная, то возможно там api какое-нибудь есть для роботов. WitCи подмена IP адреса в IP-пакетах уголовно наказуемо? Подмена IP адреса технически возможна, только получатель такого пакета ответ отправит на тот IP, а не на твой. WitCа как же куча программ-роботов? тот же гугл со своими поисковыми/индексирующими роботами? Роботам поисковиков можно дать понять что не надо на твой сайт заходить. Как это сделать - у них в документации описано. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 09:43 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
WitC, работа поисковых роботов вполне себе легальна ИМХО. И сайто-строители для них создают специальне подсказки где стоит индексировать а где нет. Коробочное решение для автора это использование прокси-сервера (тысячи их) и работать на уровне TCP для скачиваний нет смысла. Интерфейс HTTP дает достаточно возможностей. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 09:50 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
Dima T, с ответом на подменный IP - согласен. вариант отпадает. сейчас вижу два способа: 1. увеличить время между итерациями обращения к страницам. 2. подключиться по динамическому IP и переключать соединение с провайдером при переадресации на страницу капчи. это всё можно решить стандартными (сторонними) пауками. есть ещё варианты с обходом капчи? ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 10:04 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
WitC2. подключиться по динамическому IP и переключать соединение с провайдером при переадресации на страницу капчи. Не поможет. Будешь получать тот же самый IP что и был. Почитай как DHCP работает. WitCесть ещё варианты с обходом капчи? Написать свой капча-распознователь )) ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 10:10 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
WitCсейчас вижу два способа: обратиться к владельцам сайта - конечно не вариант ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 10:14 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
Dima TНаписать свой капча-распознователь )) )) ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 10:20 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
Изопропилобратиться к владельцам сайта - конечно не вариант здаётся мне, что пошлют меня. ) ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 10:29 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
WitCИзопропилобратиться к владельцам сайта - конечно не вариант здаётся мне, что пошлют меня. ) То, что нельзя купить за большие деньги, можно купить за очень большие деньги. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 10:41 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
WitC, у тебя что регион зобанен или страна? Смени своего провайдера. Может проблема решиться сама собой и хачить IP заголовки не надо будет. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 10:51 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
ЕвгенийВ, ... был бы я владельцем GOOGLE ... ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 10:52 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
maytonWitC, у тебя что регион зобанен или страна? Смени своего провайдера. Может проблема решиться сама собой и хачить IP заголовки не надо будет. не банят они. если за некоторый промежуток времени идёт большое кол-во запросов, перекидывают на страницу капчи. если капчу не ввёл - значит робот. если робот - бродить лесом на десяток минут. потом опять несколько десятков запросов ... и так в цикле. провайдер не при чём. вот этот десяток минут ждать не хочется, я бы время увеличил между запросами, что бы сайт не нагружать... но опять же, интервал надо тестировать на практике, что в любой момент могу сбойнуть. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 11:08 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
WitCпровайдер не при чём. провайдер - это не владелец сайта ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 11:13 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
WitCпровайдер не при чём. вот этот десяток минут ждать не хочется, я бы время увеличил между запросами, что бы сайт не нагружать... но опять же, интервал надо тестировать на практике, что в любой момент могу сбойнуть. Ну смотри. Если у тебя 1 worker и работает с интервалом 1 раз в 10 минут. Подключаешь себе еще 9 workers, и каждый из них пускаешь через свой proxy. Списки прокси нагуглишь сам (тысячи их). И получаешь суммарную пропускную способность 1 запрос 1 минуту для твоей системы. Ну чтоб не банили возьми с запасом интервал еще +10% времени. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 11:21 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
ИзопропилWitCпровайдер не при чём. провайдер - это не владелец сайта я понимаю, читай от "mayton", выше по переписке, я отвечал на предположение коллеги. хотя ни кто не запрещает быть провайдером и владельцем сайта в одном лице, ещё и хоститься на своих серверах... )) ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 11:42 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
WitC, ну, ок. я понял, что конкретных предложений больше не будет. спасибо, буду отталкиваться от текущих. к стати, сегодня не забываем попить пивка с админами! админам sql.ru - респект и уважуха! :) ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 11:57 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
WitC, то что тебе капчу выдают это еще хорошо, можно жестче поступать - кормить робота кривой инфой, сделать ее похожей на правду, например курсы валют можно подредактировать каким-нибудь ГСЧ и т.д. Я к тому что способ решения своей проблемы ты далеко не самый удачный выбрал. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 12:38 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
Если сервис действительно очень ценен то наверное имеет смысл заключить с его поставщиком договор. В эпоху SOAP/Rest это технически реализуется даже проще чер ломание капчь и разпарсивание ХТМЛ со скриптами. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 12:58 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
WitCхотя ни кто не запрещает быть провайдером и владельцем сайта в одном лице, ещё и хоститься на своих серверах... )) общаться в данном случае нужно с ипостасью "владелец" ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 16:20 |
|
Подменить IP отправителя в TCP IP
|
|||
---|---|---|---|
#18+
ИзопропилWitCхотя ни кто не запрещает быть провайдером и владельцем сайта в одном лице, ещё и хоститься на своих серверах... )) общаться в данном случае нужно с ипостасью "владелец" да, это был бы лучший вариант. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2016, 16:44 |
|
|
start [/forum/topic.php?fid=20&msg=39282505&tid=1400439]: |
0ms |
get settings: |
10ms |
get forum list: |
15ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
50ms |
get topic data: |
12ms |
get forum data: |
3ms |
get page messages: |
59ms |
get tp. blocked users: |
1ms |
others: | 265ms |
total: | 423ms |
0 / 0 |