Акция! Бесплатно! База д...

[satomaker]

1.1.853 - новые парсеры и каталог пресетов



У нас появился каталог парсеров и пресетов, на данный момент он находится в процессе наполнения. Каталог полностью интегрирован с A-Parser, позволяет в один клик установить необходимый пресет и сразу его использовать. Загрузка в каталог доступна для всех пользователей A-Parser, попробуйте, это просто и удобно :)

Улучшения

• Новый парсер HTML::EmailExtractor - собирает адреса электронной почты с указанных страниц, поддерживает обход сайтов в глубину(парсинг соседних страниц или всего сайта)
• Новый парсер Rank::Social::Signal - проверяет количество социальных сигналов для указанной ссылки, возвращает число лайков, репостов и комментариев для Facebook, число лайков в Google+ и Pinterest, количество репостов Вконтакте и LinkedIn
• Добавлена возможность устанавливать приоритет заданиям, подробное обсуждение
• Оптимизирована работа при большом числе активных заданий
• Оптимизирована версия A-Parser для ОС Linux x64
• Для парсера SE::QIP добавлена опция Not found is error, призванная устранять ошибки поисковика, когда он случайным образом отдает пустые результаты
• В парсере SE::Google::Trends добавлен сбор данных по категориям "В тренде" и "Лидеры"

Исправления в связи с изменениями в выдаче

• SE::DuckDuckGo, SE::IxQuick, SE::Bing::AddURL

Исправления

• В парсере SE::Google исправлена работа с каптчей при использовании языка интерфейса гугла отличного от английского
• В парсере Rank::SimilarWeb исправлена обработка доменов которые не существуют в статистике SimilarWeb
• Исправлен парсинг выдачи в SE::Bing если выбран язык отличный от английского
• Исправлена загрузка пресетов которые содержат удаленные(устаревшие) парсеры

[likos]

1.1.873 - парсинг Google со скоростью 10000+ запросов в минуту

В версии A-Parser 1.1.873 добавлен новый парсер SE::Google::Fast позволяющий парсить Google со скоростью 10к+ запросов в минуту без использования антикаптчи



Улучшения

• Новый парсер SE::Google::Fast - быстрый парсер выдачи гугла, способен развить скорость более 10000 запросов в минуту без использования антикаптчи
• Новый парсер SE::Google::ByImage - парсер картинок из Google по ссылке на картинку
• В парсере Rank::SimilarWeb добавлена поддержка антикаптчи
• В парсере Rank::Linkpad добавлены новые параметры для сбора - ранк домена, процент nofollow и безанкорных ссылок, число доноров по IP и подсетям, а также стоимость размещения ссылок
• JavaScript парсеры: добавлен параметр browser для this.request, позволяющий автоматически эмулировать заголовки браузера
• В инструменты tools добавлена возможность кодировать и декодировать base64
• Теперь в tools.data содержится большое количество предустановленной информации - языки, регионы, домены для поисковых систем Google и Яндекс

Исправления в связи с изменениями в выдаче

• Rank::SimilarWeb, SE::Google::Images, Rank::MajesticSEO

Исправления

• Исправлена уязвимость позволяющая читать файлы на сервере при известном пароле
• Исправлена ошибка в тестировщике заданий - могли обрабатываться не все запросы
• При использовании tools.query.add задание могло зависнуть в очереди, ошибка появилась в предыдущем релизе
• Исправлена работа tools.js на ОС Linux
• Исправлена утечка памяти при использовании JavaScript парсеров
• Исправлена работа опции Динамический лимит потоков

[viotur]

Около полугода пользуюсь софтом. За всё время, софт стал не заменимым помощником в добыче контента, необходимых ссылок и многого другого. Плюс ещё в том, что можно использовать пресеты, не покупая отдельные программы. Что значительно упрощает нужные задачи. Тот же парсер 2gis на рынке стоит от 1 до 4к. Здесь же это уже реализовано в виде пресета. Парсинг пользователей из Instagram, парсер YouTube, парсинг Вконтакте. Всё это уже реализовано в программе. Без необходимости что-то докупать.

Теме ап. Авторам спасибо за софт.

[ArhStrAngeR]

Новый каталог парсеров и пресетов

Представляем наш новый каталог парсеров и пресетов - это бесплатные дополнения и примеры для всех пользователей A-Parser Pro и A-Parser Enterprise. Каталог полностью интегрирован с парсером, установка из каталога происходит в один клик



Подавляющее большинство примеров были перенесены из старого каталога, часть из них была обновлена. Небольшое кол-во примеров переехали в наш FAQ, т.к. их формат не совсем вписывался в новый каталог. Более того, теперь в каталоге доступны все наши обучающие видео и статьи. Также добавлены примеры JavaScript-парсеров. Каталог разбит на категории, что облегчает поиск нужного примера

На данный момент в каталоге 100 парсеров и пресетов, 9 видео и 2 обзорных статьи, вот некоторые из них:

• Парсинг текстовки по ключу одним заданием
• Парсер Google Translate
• Парсер ключевых слов и бидов из 7search

Любой пользователь может добавить в каталог свой пресет, за что ему будет большая благодарность :) Присылайте свои идеи для новых парсеров, самые интересные и востребованные мы обязательно реализуем!

[Yaf]

Сборник рецептов #17: картинки из Flickr, язык ключевых слов, список лайков в ВК

17-й сборник рецептов. В нем мы будем парсить картинки из популярного фотохостинга Flickr; научимся писать JavaScript парсеры и определять язык ключевых слов; разберемся, как получать список пользователей, которые лайкнули пост во Вконтакте. Поехали!

Парсер изображений с Flickr
Flickr - это один из наиболее популярных фотохостингов. Согласно Википедии еще в 2011 году кол-во фото на нем превысило отметку в 6 млрд и продолжает активно расти. Именно поэтому поиск фото на данном хостинге - это актуальная задача, и она легко решается с помощью A-Parser. Подробности по ссылке выше.


JS::Yandex::LangDetect::Key - определение языка ключевого слова через Яндекс Переводчик
Как известно, в юбилейном 100-м релизе А-Парсера появился давно ожидаемый функционал: JavaScript парсеры. Благодаря этому возможности парсера значительно выросли, а также теперь можно выполнять задачи еще быстрее и эффективнее.
Бывает, что нужно получить ключевые слова только на каком-то определенном языке, и возникает задача определения этого самого языка для каждого ключа. С этим неплохо справляются различные переводчики. К примеру Яндек.Переводчик. В этом примере будет показано создание JS-парсера для решения данной задачи, подробности, как обычно, по ссылке выше.


Получение списка пользователей, которые лайкнули пост в VK
Вконтакте - это одна из самых популярных социальных сетей на територии СНГ. Поэтому парсинг различных данных из нее - это очень востребованные задачи. В нашем каталоге можно найти несколько таких пресетов, а в данном примере будет показан парсинг списка пользователей, которые лайкнули определенный пост. Это может быть полезно, например, при проведении различных акций, когда требуется получить такой список пользователей. Детали по ссылке выше.


Кроме этого:

• JS::TitleFromSE - парсинг тайтлов по ключу одним заданием
  
• JS::Yandex::LangDetect - определение языка страницы через Яндекс Переводчик
  
• JS::TextFromSE - парсинг текстовки по ключу одним заданием

Еще больше различных рецептов в нашем обновленном Каталоге!

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

• Сборник рецептов #1: Определяем CMS, оцениваем частотность ключевых слов и парсим Вконтакте
• Сборник рецептов #2: собираем форумы для XRumer, парсим email со страниц контактов
• Сборник рецептов #3: мобильные сайты, несколько парсеров, позиции ключевых слов
• Сборник рецептов #4: поиск в выдаче, парсинг интернет-магазина и скачиваем файлы
• Сборник рецептов #5: ссылки из JS, паблик прокси и карта сайта
• Сборник рецептов #6: парсим базу номеров телефонов и сохраняем результаты красиво
• Сборник рецептов #7: парсим RSS, качаем картинки и фильтруем результат по заголовкам
• Сборник рецептов #8: парсим 2GIS, Google translate и подсказки Youtube
• Сборник рецептов #9: проверяем сезонность ключевых слов и их полезность
• Сборник рецептов #10: пишем кастомный парсер поисковика и парсим дерево категорий
• Сборник рецептов #11: парсим Авито, работаем с JavaScript, анализируем тексты и участвуем в акции!
• Сборник рецептов #12: парсим Instagram, собираем статистику и делаем свои парсеры подсказок
• Сборник рецептов #13: сохраняем результат в файл дампа SQL и знакомимся с $tools.query
• Сборник рецептов #14: используем XPath, анализируем сайты и создаем комбинированные пресеты
• Сборник рецептов #15: анализируем скорость и юзабилити сайтов, парсим Яндекс.Картинки и Baidu
• Сборник рецептов #16: парсинг OpenSiteExplorer с авторизацией, Яндекс.Каталога и Яндекс.Новостей

[Ems]

1.1.888 - парсер РосКомНадзора и переводчики Google и Яндекса



Улучшения

• Новый парсер Check::RosKomNadzor - проверяет наличие домена или ссылки в реестре запрещенных сайтов, для работы необходим антигейт
• Новый парсер SE::Google::Translate - переводчик текста через сервис Google Translate
• Новый парсер SE::Yandex::Translate - переводчик текста через Яндекс.Переводчик

Исправления в связи с изменениями в выдачи

• Парсер SE::DisconnectMe удален в связи с постоянным редиректом на DuckDuckGo, используйте SE::DuckDuckGo
• SE::Google::Images, SE::Google, SE::Yandex::Images

Исправления

• В парсере Net::Whois исправлена работа с доменной зоной .fr
• SE::Google - не собирались Related keywords на языках интерфейса отличного от английского
• Исправлен обход защиты CloudFlare на ОС Linux
• Исправлено падение при запуске задания с удаленным конфигом потоков
• Не корректно работало переопределение tools.js в задании, ошибка появилась в предыдущей версии
• В парсере SE::Google::ByImage не выводился Raw data
• В парсер Rank::SimilarWeb не корректно определялся totalvisits
• Не работало изменение названия пресета при импорте

[CoolHeart]

Больше, лучше, быстрее - расширение команды поддержки

Всем привет, мы расширили команду поддержки пользователей!


Встречайте наших героев:

• Ярослав - руководитель службы поддержки
• Денис и Юра - наши новые специалисты

Также мы увеличили количество каналов для ваших вопросов:

• Тикет система, онлайн чат и форум поддержки
• Все популярные мессенджеры: Skype, Telegram, ICQ, Jabber

И самое главное: мы обновили документацию и продолжаем наполнять наш каталог парсеров и пресетов - уже более 140 готовых примеров! Предлагайте свои идеи и мы обязательно их реализуем!

[satomaker]

1.1.899 - автоматическое распознавание Яндекс каптчи и новый парсер мобильной выдачи Google

В A-Parser 1.1.899 добавлено автоматическое распознавание новой Яндекс каптчи, без использования антигейта:



Как следствие скорость парсинга Яндекса сильно выросла:



Улучшения:

• Добавлен парсер SE::Google::Mobile - парсер мобильной и современной десктоп выдачи(режим переключается в настройках)
• В парсере SE::Google::Translate названия языков теперь указаны на английском
• В парсер Shop::Amazon добавлена возможность указать домен амазона
• Добавлена возможность пропускать сохранение в файл указав в шаблоне пустое название файла
• Улучшен просмотр HTML кода в дебаг режиме - отключена возможность перезагрузки интерфейса парсера

Исправления в связи с изменениями в выдаче:

• SE::Google::Fast, Shop::Amazon
• SE::Yandex - исправлена обработка каптчи
• SE::Yandex - исправлен сбор рекламных блоков
• В парсере SE::Rambler исправлена загрузка каптчи

[viotur]

Видео урок по созданию парсера на языке JavaScript

Задача: Оценить страницу сайта на предмет тематики, рассчитать плотность ключевых слов на странице сайта и упорядочить результат по убыванию плотности ключевых слов.



Готовый парсер можно взять в нашем каталоге пресетов: Подсчет плотности ключевых слов

Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

[Elsone]

1.1.918 - улучшена работа с override и отдельные append/preppend text для каждого файла



Улучшения

• Изменена работа с override: устранена возможность их дублирования, а также улучшен выбор и добавление настроек в пресет в один клик
  
• Добавлена возможность для каждого файла результатов задавать индивидуальные Начальный/Конечный текст

Исправления в связи с изменениями в выдачи

• SE::Dogpile, Rank::MajesticSEO, SE::Google::Images, SE::Yandex

Исправления

• Исправлены падения при работе JS парсеров на Windows 10
• Исправлен баг с "белым экраном", который появился в предыдущей версии
• Парсер Rank::SimilarWeb удален в связи с требованием правообладателей
• Исправлен баг, при котором не срабатывал шаблон в Общем формате результата при пустом имени файла результата, появился в версии 1.1.896
• Исправлена работа с каптчей в SE::Google, при работе через IPv6 прокси