Narzędzia użytkownika

Narzędzia witryny


Pasek boczny

sk2:sockets_concurrency

Obsługa wielu strumieni naraz

Typowo aplikacje (jakiekolwiek, włączając sieciowe) muszą jednocześnie obsługiwać wiele źródeł zdarzeń (np. dane gotowe do odbioru, użytkownik kliknął na menu, naciśnięto enter). Domyślnie operacje na gniazdach (np. connect, accept, read) blokują przetwarzanie. Można to zmienić (tak jak dla każdego innego pliku w Linuksie) na obsługę nieblokującą, ale oczywiście aktywne czekanie (https://en.wikipedia.org/wiki/Busy_waiting) jest bardzo głupim pomysłem1).

Do obsługi wielu źródeł zdarzeń stworzono dedykowane metody, można też używać typowych metod pisania aplikacji współbieżnych. Zwolennicy SE nazwą to "wzorcami projektowymi". Przegląd typowych metod tworzenia aplikacji sieciowych:

  • Iteracyjnie – kiedy współbieżność jest zbędna.
  • Pętla zdarzeń (event loop, [1], [2]) – programista wpierw przygotowuje kod (funkcje) obsługi możliwych zdarzeń, następnie w pętli czeka na zdarzenie i wywołuje kod powiązany ze zdarzeniem. Aplikacja może być jedno- lub wielowątkowa, muszą być dostępne funkcje czekające na zdarzenie – dla I/O pod Linuksem to select, poll i epoll. Praktycznie wszystkie programy z GUI wykorzystują pętlę zdarzeń przynajmniej do obsługi GUI.
  • Aplikacja wielowątkowa – każde źródło zdarzeń – np. gniazdo – jest obsługiwane w osobnym wątku.

Wiele wątków

Wątki w C++

Zadanie 1. Napisz własną wersję programu netcat wspierającą tylko klienta TCP – program, który nawiąże połączenie TCP pod wskazany adres, następnie dane przychodzące na standardowe wejście będzie wysyłać przez to połączenie, a dane które przyszły z sieci wypisze na standardowe wyjście.
(Możesz skorzystać z przykładowego kodu)

Zadanie 2. Czat – napisz serwer, który każdą otrzymaną wiadomość przekaże wszystkim połączonym klientom.
(Możesz skorzystać z przykładowego kodu)

Zdarzenia

Funkcje biblioteczne

System Linux zawiera 3 podstawowe funkcje pozwalające na czekanie na przychodzące zdarzenia na deskryptorach plików:

  • select – "klasyczna" funkcja, ma kilka dziwnych ograniczeń. Dostaje zbiór deskryptorów, oczekuje na zdarzenie, modyfikuje przekazany zbiór deskryptorów zostawiając tylko te na których można wykonać read/write/lub na których wystąpił wyjątek. (POSIX)
  • poll – zbudowana podobnie jak select, ale m.inn. nie ma ograniczenia na numery monitorowanych deskryptorów2), można użyć ponownie struktury opisującej deskryptory etc. (POSIX)
  • epoll – specyficzna dla Linuksa funkcja. Inny pomysł: program informuje jądro systemu na które deskryptory chce czekać, potem wywołuje funkcję czekającą na zdarzenie i dostaje deskryptory które są gotowe do pracy.

Dłuższe porównanie: http://www.ulduzsoft.com/2014/01/select-poll-epoll-practical-difference-for-system-architects/

Od kilku lat trwają prace nad mechanizmem io_uring, pozwalającym na wykonywanie jednocześnie wielu operacji na plikach. Mechanizm pozwala na przekazanie do kernela żądań wykonania konkretnych operacji, oraz oferuje funkcję do czekania na wykonanie jakiejś ze zleconych wcześniej operacji.

poll

Aby stworzyć program korzystający z funkcji poll, należy:

  1. dodać plik nagłówkowy poll.h
  2. przygotować tablicę struktur pollfd i wypełnić:
    • .fd – deskryptor pliku do monitorowania,
    • .events – zbiór monitorowanych zdarzeń:
      • POLLIN – funkcja poll ma się przerwać, jeśli można wywołać bez czekania read()/… lub acccept()
      • POLLOUT – funkcja poll ma się przerwać, jeśli można wywołać bez czekania write()/…
        Uwaga: na możliwość wysłania danych czeka się wtedy kiedy ma się dane do wysłania
        Uwaga: jeśli spróbujesz zapisać więcej bajtów niż jest miejsca w buforze nadawczym, write i tak się zablokuje
      reszta zdarzeń (POLLHUP, POLLERR, POLLPRI, …) opisana w man poll
    • zostawić w spokoju .revents – tam pojawi się informacja o tym co wystąpiło
  3. w pętli wywoływać funkcję poll(…). Uwaga: aby funkcja czekała w nieskończoność, timeout musi być ujemny
  4. sprawdzać który deskryptor jest gotowy przeglądając pola .revents
pollfd σληζονε[ιλε];                       ─┐
σληζονε[0].fd = σοκητ_α;                    │
σληζονε[0].events = POLLIN;                 ├─ (2)
σληζονε[1].fd = σοκητ_β;                    │
σληζονε[1].events = POLLIN;                ─┘
...
 
while(true) {
    int γωτουε = poll(σληζονε, ιλε, -1);   ═╾─ (3)
 
    if(σληζονε[0].revents & POLLIN){       ─┐  
        read(σοκητ_α, ...                   │
        ...                                 │
    }                                       ├─ (4)
    if(σληζονε[1].revents & POLLIN){        │
        read(σοκητ_β, ...                   │
        ...                                ─┘
    }
    ...
}

Zadanie 3. Powtórz Zadanie 1, ale tym razem jako jednowątkowy program wykorzystujący poll.

epoll

Mechanizm działania epoll jest inny niż select czy poll.

  1. Wpierw programista musi stworzyć interfejs do monitorowania plików funkcją epoll_create lub epoll_create1 – interfejs trafia do tablicy deskryptorów plików (analogicznie do open(), pipe() czy socket()). Po skończonej pracy zamyka się go podobnie jak każdy plik – funkcją close.
  2. Lista monitorowanych deskryptorów jest przechowywana w pamięci jądra systemu operacyjnego – aby ją uzupełnić, należy użyć funkcji epoll_ctl. Pozwala ona powiązać deskryptor z listą zdarzeń na które oczekuje program oraz dowolnymi danymi mieszczącymi się w unii epoll_data_t.
  3. Funkcja czekająca na zdarzenia – epoll_wait – przyjmuje jako argumenty tylko deskryptor utworzony przez epoll_create, tablicę zdarzeń do wypełnienia i czas oczekiwania (-1 = nieskończoność).
  4. epoll_wait nie przekazuje numerów gotowych deskryptorów – przekazuje tylko rodzaj zdarzenia i powiązane z nim wcześniej dane.

Plik nagłówkowy: #include <sys/epoll.h>

int εΦδ = epoll_create1(0);                       ═╾─ (1)        
 
epoll_event ωπις;                                 ─┐              
ωπις.events = EPOLLIN;                             │              
ωπις.data.u64 = 987654321;                         │             
epoll_ctl(εΦδ, EPOLL_CTL_ADD, σοκητ_α, &ωπις);     ├─ (2)
ωπις.data.u64 = 123456789;                         │
epoll_ctl(εΦδ, EPOLL_CTL_ADD, σοκητ_β, &ωπις);     │
...                                               ─┘              
// Poza .u64 w unii są też .fd i .ptr
 
while(true) {                                                       
    int γωτουε = epoll_wait(εΦδ, &ωπις, 1, -1);   ═╾─ (3)          
 
    if(ωπις.events & EPOLLIN &&                   ─┐                    
       ωπις.data.u64 == 987654321 ){               │                  
       read(σοκητ_α, ...                           │                  
    }                                              ├─ (4)
    if(ωπις.events & EPOLLIN &&                    │
       ωπις.data.u64 == 123456789 ){               │
       read(σοκητ_β, ...                          ─┘
    }
    ...
}

Przykład użycia pola ''.data.ptr''

Zadanie 4. Powtórz Zadanie 1, ale tym razem jako jednowątkowy program wykorzystujący mechanizm epoll.

Zadanie 5. Napisz jednowątkowy serwer czatu używając poll lub epoll_wait.

1) choć są od tego wyjątki - np. spinlock czy DPDK
sk2/sockets_concurrency.txt · ostatnio zmienione: 2023/11/09 12:30 przez jkonczak