Расскажите о самом интересном или сложном техническом проекте, над которым вы работали.

Одним из самых интересных проектов была разработка высоконагруженного сервиса для сбора и обработки событий в реальном времени на Go. Система должна была горизонтально масштабироваться и обеспечивать низкую задержку.

Архитектура и технологии: Go для бэкенда, Kafka в качестве брокера сообщений, gRPC для межсервисного взаимодействия и ClickHouse для хранения и анализа данных.

Ключевые технические решения и вызовы:

• Балансировка нагрузки: Вместо стандартного Round Robin для консьюмеров Kafka мы реализовали кастомный балансировщик на основе consistent hashing. Это позволило закрепить партиции с данными от одного и того же пользователя за конкретным инстансом сервиса, что улучшило локальность кэша и снизило нагрузку на базу данных.
• Оптимизация производительности: Для сериализации данных использовали Protocol Buffers. Дополнительно применяли сжатие snappy для сообщений в Kafka, что значительно сократило сетевой трафик и время отклика.

• Отказоустойчивость и Graceful Shutdown: Реализовали механизм Graceful Shutdown, который при получении сигнала SIGTERM не просто завершал работу, а давал приложению время на дообработку всех сообщений, уже взятых из Kafka. Это гарантировало, что ни одно событие не будет потеряно.

  // Упрощенный пример обработчика с Graceful Shutdown
  func (s *Service) ProcessEvents(ctx context.Context) error {
      for {
          select {
          case <-ctx.Done(): // Контекст отменяется при сигнале SIGTERM
              log.Println("Shutting down... Draining queue.")
              return s.drainQueue() // Дообработка оставшихся событий
          case event := <-s.eventChan:
              if err := s.handleEvent(event); err != nil {
                  s.metrics.ErrorInc()
                  continue
              }
              s.metrics.SuccessInc()
          }
      }
  }

Результат: Проект успешно обрабатывал пиковую нагрузку в 50k+ RPS при задержке p99 < 100ms. Этот опыт научил меня важности правильного выбора алгоритмов и глубокой оптимизации на всех уровнях системы.