Кафка. "Описание одной борьбы" / Денис Карасик (Badoo)

Приглашаем на конференцию Saint HighLoad++ 2024, которая пройдет 24 и 25 июня в Санкт-Петербурге!
Программа, подробности и билеты по ссылке: vk.cc/cuyIqx
--------
--------
При поддержке AvitoTech мы впервые публикуем все видео с HighLoad++ 2019 в открытый доступ. Учитесь, вдохновляйтесь и перенимайте лучшие практики у спикеров, не выходя из дома.
--------
Календарь конференций - ontico.ru
--------
Highload++ 2019
Тезисы и презентация:
www.highload.ru/moscow/2019/a...
Apache Kafka часто преподносится как серебряная пуля: стоит только начать ее использовать, как все проблемы решатся сами собой, дыхание станет свежим, а волосы мягкими и шелковистыми. Но так ли оно на самом деле? (спойлер - не совсем)
На примере Badoo я расскажу, как Kafka выросла от эксперимента в одном сервисе до полноценного managed-решения и стала основой для многих ключевых инструментов внутри компании.
...
--------
Нашли ошибку в видео? Пишите нам на support@ontico.ru

Пікірлер: 27

  • @dmitryd1572
    @dmitryd15724 жыл бұрын

    Очень толковый доклад, большое спасибо !

  • @aleksandrbeloushkin7971
    @aleksandrbeloushkin79713 жыл бұрын

    Так мало таких докладов! Спасибо!

  • @user-yj9lw1wx5q
    @user-yj9lw1wx5q3 жыл бұрын

    Великолепный доклад. Спасибо большое!

  • @lokser91
    @lokser912 жыл бұрын

    Крутейший доклад смотрю повторно дабы запомнить эти важные особенности работы

  • @Alex-cc7dc
    @Alex-cc7dc4 жыл бұрын

    на мой взгляд, один из самых достойных докладов из всей конференции.

  • @YLisnovsky
    @YLisnovsky4 жыл бұрын

    РЕально круто интересно! Спасибо огромное

  • @ges0disaster
    @ges0disaster3 жыл бұрын

    Спасибо за доклад! На 38:40 показывается разница в производительности диска для щедулеров NOOP и CFQ. Подскажите, пожалуйста, на серверах стоят HDD или SSD?

  • @gijduvon6379
    @gijduvon63793 жыл бұрын

    7:03 replica.fetch.wait.max.ms 10:20 replica.max.lag.ms 15:30 unclean.leader.election.enable

  • @besstrashny
    @besstrashny4 ай бұрын

    5:14 Консьюмеры разве только с лидера Партиции читают?

  • @aleshkaemelyanov
    @aleshkaemelyanov2 жыл бұрын

    Сдерживающий слёзы от болей и обид В объёме обжитой, дряхлеющей клетки, почти пожелтейшей от солнца, родной, пружины матраса, кроватная сетка от пролитых слёз покрываются ржой. Прокуренной пастью я вою в подушку, в бумагу вписав мой слагающий дар, оставив чуть кофе в загаженной кружке, как в гильзе снаряда прохладный нагар. Плаксивую сущность скрываю от мира, какой равнодушен ко мне, да и к ней. Иные кричат за столом, за трактиром, а я в своей келье средь тёмных теней. От вылитых влаг и прокусанных гладей сгнила ни одна уже смена белья! Однажды, паркет промолчив под кроватью, к соседям я рухну средь ночи иль дня...

  • @_zzamzam
    @_zzamzam4 жыл бұрын

    7:07 говорится, что параметр `replica.fetch.wait.max.ms` по сути отвечает за то, как часто реплика будет опрашивать лидера, однако в документации написано "`replica.fetch.wait.max.ms`: max wait time for each fetcher request issued by follower replicas", что можно понять как максимальное время ожидания ответа от лидера при запросе данных со стороны реплики В таком случае каким образом этот параметр влияет на частоту запросов?

  • @NikolayKraynevSenior
    @NikolayKraynevSenior4 жыл бұрын

    молодец, Денис! Интересно и четко. А вот если бы назвал доклад "Моя борьба" и усики наклеил - больше народу бы набрал в зал. Слава котам!

  • @kirillsh8383
    @kirillsh83834 жыл бұрын

    Ответ на первый вопрос, нету проблем у расказчиков потому что они используют кафку на малых нагрузках, там где она воббще не нужна

  • @evgeniym29
    @evgeniym294 жыл бұрын

    Доклад интересный, но я смотрел в недоумении. Вы не живете в Java мире, зачем вы Kafka выбрали? Все тоже самое и больше есть в RabbitMQ.

  • @ribapolosataya

    @ribapolosataya

    4 жыл бұрын

    да только кролик может максимум на запись около 20к и не умеет толком в кластер из коробки, когда как кафка льет в себя 100-200-400к, умеет кластер из коробки. и опять же, кролик это умная очередь, тупой консьюмер, а кафка это тупая очередь, умный консьюмер. разные подходы

  • @evgeniym29

    @evgeniym29

    4 жыл бұрын

    @@ribapolosataya Кролик умеет из коробки в кластер. По поводу 20к не уверен, сам таких замеров не проводил. В общем, поставить кластер из Кроликов значительно менее ресурсоемко, чем из Kafka. Ну да и бог с ними. Захотели Kafka получили, поделились опытом, спасибо им за это.

  • @ArtemDenisov201

    @ArtemDenisov201

    4 жыл бұрын

    Как человек, который долгое время занимался очередями в Badoo, могу сказать что RabbitMQ тестировали и не раз. Основная проблема с тем, что он очень хрупкий и часто корраптится/теряет данные в случае проблем даже при относительно небольшом трафике. У нас же одно из основных требований - at least once delivery. Если запускаешь RabbitMQ в параноидальном режиме, он ничего не теряет, но чудовищно деградирует по производительности. По поводу Java мира - как мне кажется, Kafka давно уже вышла за его пределы и, например, для многих языков есть отличная поддержка и клиентские библиотеки. Ну и как правильно заметили выше, разница в производительности чудовищная - когда бенчмаркали, Kafka даёт на одну (!) партицию около 140k eps на чтение, и упирается чаще всего в сеть, а не ресурсы сервера :)

  • @evgeniym29

    @evgeniym29

    4 жыл бұрын

    @@ArtemDenisov201 Спасибо, за такой полный ответ.

  • @andreismirnov9993

    @andreismirnov9993

    3 жыл бұрын

    @@ArtemDenisov201 c RabbitMQ все понятно, да и вообще он скорее для других паттернов (например response-request). А не пробовали Apache Pulsar вместо Kafka?

  • @PaulGanarara
    @PaulGanarara2 жыл бұрын

    Я айтишник и знаком с этим сервисом, но, сука, я открыл этот видос, чтобы послушать про один из самых непонятных рассказов Кафки. Автор доклада, я оценил твой прикол

  • @maratgarifulin4798

    @maratgarifulin4798

    2 жыл бұрын

    Я тоже искал это ,а попав на это слегка обалдел.

  • @alexsmth8925
    @alexsmth89259 ай бұрын

    Толково!

  • @russian_ZOV
    @russian_ZOV Жыл бұрын

    Доклад в целом полезный, но: 1) дикция ужасная 2) зачем он 5 лет на одном месте работал? Фанатик?

Келесі