Load Shedding під час перевантаження · fullstack.org.ua

fullstack.org.ua

Load Shedding під час перевантаження · fullstack.org.ua

javascript

const http = require("node:http");

const PORT = 3000;
const MAX_ACTIVE_REQUESTS = 4;

// Перші два слоти доступні всім пріоритетам.
// Останні два фактично резервуються для важливіших операцій.
const LOW_PRIORITY_LIMIT = 2;
const NORMAL_PRIORITY_LIMIT = 3;

let activeRequests = 0;
let rejectedRequests = 0;

function getPriority(request) {
  const value = request.headers["x-priority"];

  if (value === "critical") {
    return "critical";
  }

  if (value === "normal") {
    return "normal";
  }

  return "low";
}

function canAccept(priority) {
  if (priority === "critical") {
    return activeRequests < MAX_ACTIVE_REQUESTS;
  }

  if (priority === "normal") {
    return activeRequests < NORMAL_PRIORITY_LIMIT;
  }

  return activeRequests < LOW_PRIORITY_LIMIT;
}

function sendJson(response, statusCode, body, headers = {}) {
  response.writeHead(statusCode, {
    "Content-Type": "application/json; charset=utf-8",
    ...headers
  });

  response.end(JSON.stringify(body));
}

const server = http.createServer((request, response) => {
  if (request.url !== "/operation" || request.method !== "GET") {
    sendJson(response, 404, {
      error: "not_found"
    });
    return;
  }

  const priority = getPriority(request);

  if (!canAccept(priority)) {
    rejectedRequests += 1;

    console.log(
      `Відкинуто запит: priority=${priority}, active=${activeRequests}`
    );

    sendJson(
      response,
      503,
      {
        error: "overloaded",
        message: "Сервіс тимчасово перевантажений"
      },
      {
        "Retry-After": "1"
      }
    );

    return;
  }

  activeRequests += 1;

  console.log(
    `Прийнято запит: priority=${priority}, active=${activeRequests}`
  );

  // Імітуємо повільну операцію: запит займає слот 1 секунду.
  setTimeout(() => {
    activeRequests -= 1;

    sendJson(response, 200, {
      status: "completed",
      priority,
      activeRequests
    });

    console.log(
      `Завершено запит: priority=${priority}, active=${activeRequests}`
    );
  }, 1000);
});

setInterval(() => {
  console.log(
    `Метрики: active=${activeRequests}, rejected=${rejectedRequests}`
  );
}, 5000);

server.listen(PORT, () => {
  console.log(`Сервер запущено на http://localhost:${PORT}`);
});

javascript

async function requestWithRetry(url, maxAttempts = 4) {
  for (let attempt = 0; attempt < maxAttempts; attempt += 1) {
    const response = await fetch(url);

    if (response.ok) {
      return response.json();
    }

    if (response.status !== 503) {
      throw new Error(`Запит завершився зі статусом ${response.status}`);
    }

    const baseDelay = 200 * 2 ** attempt;
    const jitter = Math.floor(Math.random() * 100);

    await new Promise((resolve) => {
      setTimeout(resolve, baseDelay + jitter);
    });
  }

  throw new Error("Не вдалося виконати запит після повторних спроб");
}