Wynalezienie Szeptu
WYNALEZIENIE SZEPTU: 1948
Tytuł: Claude Shannon i Matematyczna Teoria Komunikacji
Czas: 90min | Cel: Zrozumieć że informacja to nie treść. To niespodzianka.
1. TEZA MODUŁU
"Informacja to nie to co mówisz. Informacja to to, czego druga strona się nie spodziewała. A szum to nie wróg. To cena za gadanie."
2. STRUKTURA 90 MINUT
[00:00 - 05:00] WEJŚCIE. PROBLEM PO WOJNIE
Trener wchodzi z 2 telefonami. Jeden stary, z tarczą.
TRENER: "Rok 1948. Wojna się skończyła. Ludzie chcą gadać.
Problem: linie telefoniczne są zawalone. Szum. Zakłócenia.
Bell Labs stawia pytanie: Ile maksymalnie da się upchnąć informacji w 1 przewodzie?"
Podnosi kartkę "Odpowiedź dał 32-letni Claude Shannon. Gość który żonglował na monocyklu."
Pisze na tablicyBIT
[05:00 - 20:00] BLOK 1: BIT TO NIE CYFRA. BIT TO ZASKOCZENIE 05-20
Tu wywalamy intuicję że "informacja = wiedza".
GRA 1: "ZASKOCZ MNIE" [05:00 - 12:00]
TRENER: "Mówię: Jutro wstanie słońce. Ile bitów informacji?
0. Bo się tego spodziewacie.
Mówię: Jutro spadnie meteoryt. Ile bitów?
Dużo. Bo to niespodzianka."
DEFINICJA SHANNONA:INFORMACJA = -log2(PRAWDOPODOBIEŃSTWO)
Im mniej prawdopodobne, tym więcej informacji.
GRA 2: "20 PYTAŃ" [12:00 - 20:00]
Wybierasz przedmiot. Sala zadaje pytania TAK/NIE.
TRENER: "Każde dobre pytanie = 1 bit.
Shannon policzył: cały wszechświat da się opisać bitami.
Książki. Muzyka. Ty. Ja. Wszystko to 0 i 1."
Pokaz: Na ekranie zdjęcie zamienia się w piksele 0 i 1.
[20:00 - 35:00] BLOK 2: TWIERDZENIE SHANNONA-HARTLEYA. WIZUALIZACJA 20-35
Tu wchodzi wizualizacja o którą prosiłeś. To jest serce modułu.
WIZUALIZACJA NA EKRANIE: RURA Z WODĄ
TRENER: "Wyobraźcie sobie rurę. To jest wasz kabel telefoniczny."
1. SZEROKOŚĆ RURY = PASMO "Im szersza rura, tym więcej wody przeleci. Im szersze pasmo w kablu, tym więcej bitów."
2. CIŚNIENIE WODY = MOC SYGNAŁU "Im mocniej pompujesz, tym dalej doleci."
3. BŁOTO W WODZIE = SZUM "Im więcej błota, tym gorzej widać co płynie."
Włącza wzór na ekranie
C = B \times \log_2\left(1 + \frac{S}{N}\right)
TRENER: "To jest prawo fizyki internetu.
C= Ile maksymalnie bitów na sekundę upchniesz.
B= Szerokość rury.
S/N= Jak czysta jest woda vs błoto.
PUENTA: Nie da się upchnąć nieskończoności. Jest sufit. Fizyczny.
Dlatego Netflix przycina jakość jak masz słaby net."
[35:00 - 65:00] WARSZTAT: "PRZETRWANIE W SZUMIE" 35-65
Cel: Poczuć kodowanie korekcyjne.
Zadanie dla 4 zespołów:
Masz przesłać koledze zdanie przez "hałaśliwy kanał". Ja będę szumem i wykreślę 30% liter.
Przykład: KOT SIEDZI NA PŁOCIE -> K_ S_D_I _A P_OCI_
TRENER: "Macie 15 min. Wymyślcie sposób żeby kolega i tak odczytał.
Nie wolno powtarzać 2 razy. Za drogo."
Podpowiedź po 10 min: "Dodajcie nadmiarowe bity. Jak w dowodzie osobistym."
Rozwiązania które wyjdą:
1. Powtórzenie: KOT KOT KOT
2. Kod: K3 O1 T1
3. Suma kontrolna: KOT SIEDZI NA PŁOCIE [7 liter]
TRENER: "Właśnie wynaleźliście kody Hamminga. To jest to co siedzi w twoim SSD, QR kodzie i łączu z satelitą.
Shannon powiedział: Dodaj trochę bałaganu celowo, żeby pokonać bałagan przypadkowy."
[65:00 - 85:00] BLOK 3: KONSEKWENCJE. OD BITÓW DO ŚWIATA 65-85
TRENER: "Zanim był Shannon, inżynierowie gadali: 'Dajmy mocniejszy sygnał'.
Po Shannonie: 'Zakodujmy mądrzej'."
1. MP3: "Wyrzucamy dźwięki których i tak nie słysz. Mniej bitów. Ta sama piosenka."
2. JPEG: "Wyrzucamy piksele których i tak nie widzisz. Mniej bitów. To samo zdjęcie."
3. AI / ChatGPT: "Przewiduje następne słowo. Czyli kompresuje język. Mniej bitów na myśl."
PUENTA: "Całe życie to gra: Jak powiedzieć MAXIMUM najmniejszą liczbą bitów."
Pokaz: Puszczasz 1 piosenkę. Najpierw WAV 50MB. Potem MP3 5MB. Pytasz: "Słyszycie różnicę? Nie? To po co płacić za 45MB powietrza?"
[85:00 - 90:00] ZAMKNIĘCIE. MOST DO VON NEUMANNA 85-90
Trener trzyma w 1 ręce kartkę z 010101 a w 2 ręce płytę główną.
TRENER: "Shannon dał nam alfabet. 0 i 1.
Dał nam pocztę. Twierdzenie o kanale.
Dał nam zasady pakowania. Kompresja."
Odkłada kartkę
"Ale nie dał nam maszyny która to policzy.
Tę maszynę za rok zbuduje gość o nazwisku von Neumann.
I powie: 'Pamięć i program mają leżeć w tym samym miejscu'."
Zadanie do Księgi: "Jaką 1 rzecz w swoim życiu skompresowałbyś żeby zajmowała mniej miejsca?"
QR: "Policz ile bitów ma to zdanie. Wrzuć tekst i zobacz entropię."
Next: "Moduł 5: VON NEUMANN. Architektura."
CHECKLISTA REKWIZYTÓW MODUŁ 4
| Rzecz | Po co |
|---|---|
| 2 telefony | Wejście |
| Animacja "Rura z wodą" | Twierdzenie Shannona-Hartleya |
| Kartki z tekstem do "zaszumienia" | Warsztat |
| Plik WAV vs MP3 | Pokaz kompresji |
| Generator entropii online | QR |
3 ZASADY ZŁOTE
- Bit = niespodzianka. Jak ktoś wyjdzie i powie "bit to 0 i 1" to przegrałeś. Ma powiedzieć "bit to zaskoczenie".
- Wzór pokaż, ale nie tłumacz logarytmu. Powiedz "to jest sufit internetu". Koniec.
- Szum to przyjaciel. Bez szumu nie byłoby potrzeby kodowania. Bez kodowania nie byłoby postępu.