Архив: Парсинг сайта, Java / Spring JDBC/ Postgres

Бюджет 83$ / 5000
руб
в месяц
Создан: 6 лет назад
Закрыт
Описание
- Парсер футбольных матчей с сайта https://www.futbol24.com/

Реализовано должно быть на Java + Spring JDBC + PostgreSQL. Результат – исходный код + дамп БД с результатами работы программы.

Основной пользовательский интерфейс должен быть реализован в виде CLI:
-    я ввожу в командной строке ранг чемпионата (целое число) и URL турнира (пр.: https://www.futbol24.com/national/Austria/Bundesliga/2017-2018/),
- программа проверяет и при необходимости добавляет отсутствующие сущности в БД
    (страну в таблицу country, турнир в таблицу tournament, данные розыгрыша (чемипоната) за конкретный год в таблицу champ)
- скачивание матчей должно быть реализовано в кумулятивном виде – если какой-то матч был скачан ранее, заново скачивать его не надо
- для указанного чемпионата программа скачивает все его матчи и сохраняет их данные в таблицы match (данные конкретного матча)
    Пример: все матчи чемипоната Австрии 2017 г. (https://www.futbol24.com/national/Austria/Bundesliga/2017-2018/)
    находятся во вкладке RESULTS (https://www.futbol24.com/national/Austria/Bundesliga/2017-2018/results/),
    при при скачивании всех матчей чемпионата необходимо учесть пейджинг (параметр ?statLR-Page=N)

- для каждого матча программа скачивает все его события и сохраняет в таблицу event:
    события конкретного матча находятся по URL типа https://www.futbol24.com/match/2017/07/21/national/Austria/Bundesliga/2017-2018/Admira/vs/St-Polten_ 1/,
    при необходимости дополните таблицу event_type типами событий, которые встретились в спарсенных данных, но их пока нет в таблице

Помимо исходников следует предоставить дамп БД с результатам работы парсера за все доступные года по следующим чемпионатам:
    https://www.futbol24.com/national/Austria/Bundesliga/2019-2020/ (rank = 0)
    https://www.futbol24.com/national/Belgium/Jupiler-Pro-League/2019-2020/ (rank = 0)
    https://www.futbol24.com/national/England/Premier-League/2019-2020/ (rank = 0)
    https://www.futbol24.com/national/England/Championship/2019-2020/   (rank = 1)
    https://www.futbol24.com/national/Germany/Bundesliga/2019-2020/ (rank = 0)

- Необходимо учесть, что на сайте есть защита от DDoS (следует реализовать конфигурируемую паузу между HTTP-запросами)

Вместо дампа БД могу предоставить логин-пароль от установленного сервера PostgreSQL, будете заливать данные напрямую.
Категория

Похожие проекты

safe 
0 3
Необходимо разработать систему, которая: Подключается к API Diagnocat и iDent (через токены доступа). Получает данные о пациенте, результатах диагностики, снимках и назначениях. Автоматически формирует структурированный отчет по шаблону (включая врачей, этапы лечения, стоимость и описание процедур).......
 
0 0
Необходимо связать БД 1C:ERP с БД Outlook, MS Access, Битрикс24. Например при вводе нового сотрудника в 1С:ERP он должен автоматически появляться в вышеперечисленных БД....
3 месяца назад
 
0 1
Требуется реализация отчёта на кастомизированной 1С:УПП 1. 2, ТЗ и контрольный пример во вложении, 80% кода должно быть покрыто модульными тестами....
3 месяца назад
$7
0 2
Мне нужно копировать мой текст и вставлять в одну группу ВК с открытой стеной для публикации рекламы. Задача скрипта/сервиса/программы - примерно каждые 10 секунд брать мой текст и вставлять в эту группу. Я пробовал через одну программу, которая записывает действия мышки и потом повторяет, но она как-то......
5 месяцев назад
safe 
0 0
Написать прошивку для A94B114, используя 2 подобные рабочие прошивки. Все файлы есть....
$21
0 2
Нужно разархивировать файл архив. ujems, есть распаковщик, но выдает ошибку. Прислать пруфы(скрины)....
8 месяцев назад
safe 
0 1
Входные: Имеется скрипт по обработке email писем и добавление их в систему Redmine   Проблема: Система обработки этих писем написана некорректная и негибкая    Задача: Переписать логику обработки входящих писем, чтобы исключить их потерю при незначительных отклонениях от ожидаемой структуры....
$37
0 2
- В обязанности сотрудника входит поддержание мобильного приложения системы автоматизации бизнеса. - Работа сдельная: задачи выдаются на оценку, далее после согласования передаются на реализацию. - Заключаем договор и NDA (соглашение о неразглашении)....
$71
0 0
Информация о проекте: Проект включает в себя React Native приложение с Expo внутри которого находится webview с сайтом На устройствах с ОС IOS проблема с воспроизведением видео....
8 месяцев назад
safe 
0 0
Разрабатываю десктопные программы на языке Java,  а так же Java + SQL....
 
0 6
  1. Чтобы можно было писать описание события (без заголовка) - превью в списке берется N количества букв с начала. (в списке писать дату события и сколько осталось до него) . Выставление даты и времени напоминания и ИНТЕРВАЛА ПОВТОРА ОТ 1 МИНУТЫ! Выставлять количество повторов, далее напоминания прекращаются.......
safe 
0 4
Сайт arg2028t. beget. tech/. Нужно сделать вот такой калькулятор. airprint. by/outdoor/wide-format. и еще некоторые доработки....
safe 
0 7
Краткое описание: Мы ищем исполнителя для тестирования функционала мобильного приложения на платформе Android. Задача включает проверку основных функций приложения, таких как работа комнаты, передача видео, звука и чата, а также создание подробной отчетности о найденных ошибках.   Требования к исполнителю:......
safe 
0 12
Разработка чат-бота под ваши нужды....
$143
0 0
Oпpocы (1008pyб/чaс) Заходитe на сaйт: gonsù....
11 месяцев назад
 
0 4
Требуется создать скрипт для premiere pro. Данная суть скрипта: в выделеном бине нужно что бы автоматически проставлялся in out ровно по серидине файла так что бы выделенная область была длиной 3 секунды. И требуется кнопка что бы работало через окно expressions. Проблема текущего в том что он не работает......
 
0 2
Нужно создать приложения под гемблинг/беттинг, на котлин. Приложение должно работать Firebase. Детали вышлю при обсуждение....
$21
0 4
Нужно разархивировать файл archive. ujems, есть распаковщик, но выдает ошибку. Прислать пруфы  ....
1 год назад
safe 
0 3
Разработать впн сервис ( Приложения на ios и android + сайт для оплаты подписки). Настройка Серверов. Оплата по договоренности. Работаем черед безопасную сделку....
1 год назад
Смотреть все