Progress-servis55.ru

Новости из мира ПК
0 просмотров
Рейтинг статьи
1 звезда2 звезды3 звезды4 звезды5 звезд
Загрузка...

Парсинг в excel

Парсер сайтов и файлов (парсинг данных с сайта в Excel)

Надстройка Parser для Excel — простое и удобное решение для парсинга любых сайтов (интернет-магазинов, соцсетей, площадок объявлений) с выводом данных в таблицу Excel (формата XLS* или CSV), а также скачивания файлов.

Особенность программы — очень гибкая настройка постобработки полученных данных (множество текстовых функций, всевозможные фильтры, перекодировки, работа с переменными, разбиение значения на массив и обработка каждого элемента в отдельности, вывод характеристик в отдельные столбцы, автоматический поиск цены товара на странице, поддержка форматов JSON и XML).

В парсере сайтов поддерживается авторизация на сайтах, выбор региона, GET и POST запросы, приём и отправка Cookies и заголовков запроса, получение исходных данных для парсинга с листа Excel, многопоточность (до 200 потоков), распознавание капчи через сервис RuCaptcha.com, работа через браузер (IE), кеширование, рекурсивный поиск страниц на сайте, сохранение загруженных изображений товара под заданными именами в одну или несколько папок, и многое другое.

Поиск нужных данных на страницах сайта выполняется в парсере путем поиска тегов и/или атрибутов тегов (по любому свойству и его значению). Специализированные функции для работы с HTML позволяют разными способами преобразовывать HTML-таблицы в текст (или пары вида название-значение), автоматически находить ссылки пейджера, чистить HTML от лишних данных.

За счёт тесной интеграции с Excel, надстройка Parser может считывать любые данные из файлов Excel, создавать отдельные листы и файлы, динамически формировать столбцы для вывода, а также использовать всю мощь встроенных в Excel возможностей.
Поддерживается также сбор данных из текстовых файлов (формата Word, XML, TXT) из заданной пользователем папки, а также преобразование файлов Excel из одного формата таблицы в другой (обработка и разбиение данных на отдельные столбцы)

В программе «Парсер сайтов» можно настроить обработку нескольких сайтов. Перед запуском парсинга (кнопкой на панели инструментов Excel) можно выбрать ранее настроенный сайт из выпадающего списка.

На видео рассказывается о работе с программой, и показан процесс настройки парсера интернет-магазина:

Дополнительные видеоинструкции, а также подробное описание функционала, можно найти в разделе Справка по программе

В программе можно настроить несколько парсеров (обработчиков сайтов).
Любой из парсеров настраивается и работает независимо от других.

Настройка программы, — дело не самое простое (для этого, надо хоть немного разбираться в HTML)

Если вам нужен готовый парсер, но вы не хотите разбираться с настройкой,
— закажите настройку парсера разработчику программы. Стоимость настройки под конкретный сайт — от 1500 рублей.
(настройка под заказ выполняется только при условии приобретения лицензии на надстройку «Парсер» (2700 руб)

Программа не привязана к конкретному файлу Excel.
Вы в настройках задаёте столбец с исходными данными (ссылками или артикулами),
настраиваете формирование ссылок и подстановку данных с сайта в нужные столбцы,
нажимаете кнопку, — и ваша таблица заполняется данными с сайта.

Программа «Парсер сайтов» может быть полезна для формирования каталога товаров интернет-магазинов,
поиска и загрузки фотографий товара по артикулам (если для получения ссылки на фото, необходимо анализировать страницу товара),
загрузки актуальных данных (цен и наличия) с сайтов поставщиков, и т.д. и т.п.

Можно попробовать разобраться с работой программы на примерах настроенных парсеров

Как скачать и протестировать программу

Для загрузки надстройки Parser воспользуйтесь кнопкой Скачать программу

Если не удаётся скачать надстройку, читайте инструкцию про антивирус

Если скачали файл, но он не запускается, читайте почему не появляется панель инструментов

Это полнофункциональная пробная (TRIAL) версия, у вас есть 10 дней бесплатного использования ,
в течение которых вы можете протестировать работу программы.

Этого вполне достаточно, чтобы всё настроить и проверить, используя раздел Справка по программе

Если вам понравится, как работает программа, вы можете Купить лицензию

Лицензия (для постоянного использования) стоит 2700 рублей .

В эту стоимость входит активация на 2 компьютера (вы сможете пользоваться программой и на работе, и дома).
Если нужны будут дополнительные активации, их можно будет в любой момент приобрести по 600 рублей за каждый дополнительный компьютер.

  • 563363 просмотра

Комментарии

подскажите, как можно в таблице html убрать строку (целиком) содержащую определенный параметр (например бренд, срок поставки).
И еще после «преобразовать таблицы в список..» получается массив равный количеству ячеек (например 2-сроки на 5-столбцов получится 10 элементов массива) как сделать массив по количеству строк?

Да, работает. С любой версией Excel под windows.

Подскажите а работает ли парсер с excel 2016

Всё должно загружать. Что-то не так настроили, видимо.

пейджер в пробной версии загружает только 7 ссылок из 100. Это правильно так и должно быть?

Алексей, да, может.

Скажите а ваш парсер может собирать данные с джава таблицы, все скрытые строки.
Например вот здесь выводится только 50 строк, мне нужны все

Заказы на парсер принимаются в таком виде
https://excelvba.ru/programmes/Parser/order
Для начала, высылайте заказ, чтобы было что обсуждать.

Как с вами связаться?

Здравствуйте, возможно сделать:
Программа выделяет в столбце экселя данные и вносит в поисковую строку на сайте, вбивает еще один стобец, а результат первой и второй строки заменяется резултатом с сайта и вносится еще один стобец данных с сайта в таблицу эксель.

Читать еще:  Dde сервер в excel 2020

Очень нужно, очень интересно

Илья, можем настроить под заказ, если у вас до сих пор не получилось.
Я не консультирую по вопросам настройки парсеров.

Игорь, здравствуйте! Повторю вопрос))) На сайте ссылки дублируются, одна находится в названии товара, вторая в его каталожном номере. Проблема в том, что эти ссылки находятся в одном блоке, с одинаковыми тэгами, отличаются только анкорами. Как можно реализвать удаление (не обработку) дублей? Или, чтоб как то парсер брал ссылки через 1 в пейджере?
Или такая функция не предусмотрена в парсере?

И еще такой вопрос, с чем может быть связано то, что с разными проходами по сайту получаются разные результаты, например первый проход — 3567 строчек, второй 8370 строк, третий 4000?

Здравствуйте! Подскажите, как парсер завершает работу? Наблюдаю следующую картину: excel перестает заполняться данными, висят 2 окошка парсера: «Инициализация исходных данных (00:00:01)» и «Обработка результатов 100%» и ничего не происходит, из активных кнопок только «отменить»

Добрый день, как можно симитировать нажатие на скриптовую ссылку (которая не содержит привычный тег a)? Необходимые данные выводятся в модальном окне.

Здравствуйте, Сергей.
Тут возможны 2 причины:
1. Что-то недоустановлено в системе. Найти и решить проблему сложно.
2. Парсер несовместим с office 2003.
У остальных программ и поддерживаю ещё пока совместимость с 2003 версией, а вот насчёт парсера уже и не помню, — там сложный функционал, возможно пришлось пожертвовать совместимостью (сейчас 2003 версию почти никто не использует). Рекомендую установить Office 2010.

Здравствуйте. На втором компе подряд не получается запустить триал парсера. Выдаёт ошибку «Compile error in hidden module: mod_Declaration». Оба компа Win7, Office 2003, файл разблокирован, безопасность: низкая.
Что я делаю не так?

Есть разные способы.
Либо брать все товары из главных категорий (вообще не перебирая вложенные), либо, если во вложенных категориях присутствуют товары, отсутствующие в родительских, то можно перебирать все категории, добавив проверку на их наличие.
Если сами не разберётесь, можем настроить под заказ.

Здравствуйте, подскажите, как парсить каталог, у которого разная вложенность карточек товаров? Например, одна категория находится catalog/dvs, другая catalog/hodovka/kolesa, и т.п.

Азамат, значит, сработала защита сайта.
Нужно настраивать решение капчи, или использовать прокси серверы.
В справке по программе написано и про одно и про другое.

Не загружает исходный код, выдает:
«Мы заметили подозрительную активность с вашего IP адреса.Чтобы подтвердить, что вы не робот, пожалуйста. «

Спасибо! Действительно ссылки дублируются, одна находится в названии товара, вторая в его каталожном номере. Проблема в том, что эти ссылки находятся в одном блоке, с одинаковыми тэгами, отличаются только анкорами. Как можно реализвать удаление (не обработку) дублей? Или, чтоб как то парсер брал ссылки через 1 в пейджере?
Еще раз спасибо)

Илья, в списке товаров (в разделах сайта) ссылки на товары дублируются (одна и та же ссылка в 2 экземплярах, — на названии товара, и на фото товара).
Надо брать только одну ссылку из каждого результата поиска, а вы берёте все.
Перенастроить легко.

Здравстуйте! Подскажите пожалуйста, в чем может быть проблема, настроил парсер, всё хорошо, но все позиции почему-то выводятся с дублями, т.е. сразу по 2 товара. В какую сторону копать? Спасибо)

Александр, на разных компьютерах съемному диску могут назначаться разные буквы.
Если не получается, сохраняйте в другую папку (например, на рабочем столе, — там точно проблем с доступом не будет)

Здравствуйте!
На одном из компьютеров перестали загружаться картинки с сайта, хотя папки для них парсер создает нормально. Пишет, что «Ошибка скачивания файла (попыток: 2)Не удалось скачать файл по ссылке: https://www.PPP.com/PPP.jpg Путь к создаваемому файлу: V:PPPIMG6705_4.jpg»
На другом компьютере этот же файл и диск (переносной HDD) отрабатывают загрузку как положено. Подскажите в каком направлении копать. Доступы к папкам я уже дал максимальные.

Здравсвуйте, нет кнопки создать подуровень

Дима, попробуйте указать префикс пейджера /#
Ну либо можно другими способами получить список ссылок на страницы результатов.
Один из вариантов:
https://excelvba.ru/programmes/Parser/manuals/setting/procedure/pager/en.
Другие варианты можете поискать в комментариях к справке по этому действию:
https://excelvba.ru/programmes/Parser/actions/GetPagerLinks

Привет! Подскажите пожалуйста, если при настройке парсера в момент настройки «Пейджера», на сайте с которого я буду парсить, нет определяющего «суффикса». На вашем видео есть пример /_ofset_60html, у моего же сайта «суфикса» нет, phones/apple/3, phones/apple/4, phones/apple/5. Надеюсь понятно написал. Что мне делать в таком случае, что бы продолжить настройку парсера успешно?

Игорь, от того и не напоминал, что думал у вас и так голова забита, что в первую очередь сделать, что в третью, и элементарно не хотел быть назойливым, да и ваш ответ на мой взгляд звучал весьма не двусмысленно именно исходя из того, что последующие вопросы по функционалу имели весьма четкий ответ, что о подобном никто не просил, раз не просил и сам автор не видит нужды, то очевидно: нужно-реализую. Платите. А раз относительно указанной функции было вполне ясное «но могу добавить в следующих версиях программы». а теперь оказывается, что и не «обещал», да и не нужна и снова платите. в таком случае спасибо, поищу этот макрос на три строки. Я не против платить, но простите не на каждый «чих». Не скажу что в безумные деньги выливается лично мое пользование программой, но потихоньку политика именно платы за каждый чих уже немного отталкивает. Нет, я все понимаю, время деньги, труд деньги, и все из этой области. Я даже как то смирился, без смены ПК а лишь переустановка Винды и снова деньги. но спасибо нет, значит обойдусь. И впредь воздержусь от вопросов и просьб.

Читать еще:  Как восстановить не сохранившийся документ excel

Как выгрузить товары в Excel?

1. В списке товаров нажмите «Выгрузить»

После загрузки товаров на парсер, находясь на странице со списком товаров, нажмите кнопку «Выгрузить».

2. Задайте настройки файла

В появившемся окне выберите формат «Excel (XLS/x)» и задайте настройки формата: версия Excel (XLS или XLSx), разделение характеристик и пр..

Обратите внимание, что формат Excel5 не поддерживает больше 65535 товаров в одном файле.

Подробное описание каждой настройки вы можете найти ниже на этой странице.

3. Выгрузка запущена

Появится индикатор выгрузки товаров. Если не хотите ждать, вы можете выключить компьютер или закрыть браузер — выгрузка продолжится независимо от вас.

По окончанию выгрузки вы увидите ссылку на скачивание файла Excel. Если будет сформировано несколько файлов, появится список ссылок.

Встраивание изображений в ячейки

Для формата Excel имеется возможность автоматического встраивания изображений в ячейки таблицы. Для этого необходимо выбрать соответствующую опцию в разделе «Выгрузка изображений» окна выгрузки.

В ячейку всегда выгружается первое изображение уменьшенного размера.

Настройки формата:

Разделитель изображений — символ для разделения нескольких ссылок изображений внутри одной колонки. Можно задать разбиение нескольких картинок по отдельным колонкам.

Разделитель характеристик — символ для разделения нескольких характеристика товара внутри одной колонки. Например, цветов: красный/синий/зеленый.

Формат файла — позволяет указать формат файла версии Excel. Обратиет внимание, что формат Excel5(XLS) не поддерживает более 65535 строк (товаров).

Общие настройки:

Выгружать товары — позволяет выбрать какие товары выгружать по признаку «Наличие» на сайте поставщика.

Порядок выгрузки товаров — позволяет выбрать порядок выгрузки товаров и установить выгрузку задом наперед при желании.

Разрешить HTML разметку в полях товара — разрешает или запрещает HTML-разметку в полях товара. Очень редко используется интернет-магазинами.

Выгрузка изображений — позволяет изменить число или способ выгрузки изображений.

Имеется возможность скачать все изображения товаров в виде архива. Для этого выберите опцию «Поместить в ZIP-архив» при выгрузке.

Выгрузка характеристик — позволяет выгрузить свойства товаров (цвета, размеры и пр.) отдельными полями в файле или просто добавить к общему описанию товара. При добавлении к описанию сами колонки остаются. Выбирается в зависимости от возможностей вашего интернет-магазина или сайта СП.

Выгрузка рядов — аналогично выгрузке характеристик, но в отношении рядов товара. Позволяет добавить инфомрацию о рядах к описанию.

Разделять категории — разделять вложенные категории на разные поля (по цифрам или по названиям).

Разбить на несколько файлов — позволяет разбить выгрузку на несколько файлов: по категориям или по брендам.

парсинг содержимого ячейки

12.10.2009, 13:04

Копирование содержимого из ячейки
Всем привет. В ячейку I3 поступают данные из сторонней программы. Мне необходимо скопировать.

Скопировать часть содержимого ячейки в другую
Здравствуйте. Подскажите можно ли как-то решить такую задачу. Есть столбец с данными вида.

Получение значения ячейки в зависимости от её содержимого
Доброго времени суток! 🙂 Не могу придумать как осуществить следующее действие: Есть.

Зависимость содержимого одной ячейки от другой
Задача крайне простая, но как её сделать — без понятия. Нужно задать такую формулу: «Если в.

12.10.2009, 13:57212.10.2009, 14:51 [ТС]312.10.2009, 15:10412.10.2009, 15:12 [ТС]512.10.2009, 15:20613.10.2009, 12:53713.10.2009, 16:298

Можно и без VBA
Функции SEARCH, M />
Ищем разделители (пробелы, запятые), делим строку на слова и собираем в нужные ячейки.

Пример:
пусть в А2 исходный текст
346ххх Офигенная область Опупенный район с. Далёкое, ул. Школьная 37,

В B2 вводим функцию =SEARCH(» «;A2), получаем 7.
В C2 вводим функцию =MID(A2;B2+1;1000), получаем
Офигенная область Опупенный район с. Далёкое, ул. Школьная 37,

И т.д.
(1000 взял для простоты, чтоб не возиться с вычислением длины строки функцией LEN)

LEFT в нужный момент используем для выделения первого слова из строки.

Можно, конечно, всё собрать в одну многоэтажную формулу в одной ячейке, но зачем?

Детали в Help: текстовые функции листа

13.10.2009, 16:29
13.10.2009, 16:29

Заказываю контрольные, курсовые, дипломные и любые другие студенческие работы здесь.

Реализовать парсинг ячейки?
Здравствуйте, есть условие задачи: В ячейке А1 строка: 0-1;1-0;2-0;3-3;4-1 Нужно в ячейку B1.

Разный всплывающий список в зависимости от содержимого ячейки
Есть ли такая возможность в excel. Если в ячейке А1 больше двух символов , то в ячейке B1 один.

Распределение содержимого одной ячейки в разные строки
есть массив данных, где одному наименованию соответствуют несколько чисел через запятую в одной.

Копирование содержимого ячейки на другой лист по условию
Привет великим гуру владеющим в совершенстве Excel. В программе не силен, поэтому вопрос глупый.

Парсер сайтов

Содержание

  • О программе «Парсер сайтов»
  • Видеообзор возможностей парсера, работа с программой
  • Какие задачи решает программа
  • Скачать демо-версию «Парсер сайтов»
  • Инструкция по первому запуску программы
  • Преимущества работы с программой

О программе «Парсер сайтов»

Программа «Парсер сайтов» разработана для сбора, анализа, выборки, группировки, структуризации, трансформации данных с последующим выводом данных в таблицу Excel в форматах xls* и csv.

Парсер создан на VBA (Visual Basic for Applications) и представлен в виде надстройки для MS Excel, по сути это набор макросов, каждый набор отвечает за выполнение определенных функций при обработке.

Для парсинга любого сайта пишется подпрограмма управления макросами (файл-настройка с расширением .xlp).

Таким образом, для работы программы необходимы: файл надстройки Parser.xla и файл управления надстройкой Name.xlp (Name — имя файла).

Видеообзор парсера