-
Data: 2021-02-08 18:35:02
Temat: Re: Przenośny, uproszczony filesystem
Od: "M.M." <m...@g...com> szukaj wiadomości tego autora
[ pokaż wszystkie nagłówki ]On Monday, February 8, 2021 at 2:57:15 PM UTC+1, heby wrote:
> On 08/02/2021 14:24, M.M. wrote:
> >> To dopuszczalna sytuacja. fs ma być na nia gotowy.
> > Trudno sie rozmawia, nie wiem co dla Ciebie znaczy że FS
> > ma być gotowy. Skąd FS ma wiedzieć, czy to nie jest zaplanowane
> > działanie programisty?
> Ma nie wiedzieć. Jedyne co od niego oczekuje to to że nie rozwali sobie
> wewnętrznych struktur kiedy dwa wątki będą starały się jednoczesnie
> powiekszyć długość pliku albo skasować go w tym samym momencie.
I chcesz żeby ktoś podpowiedział Ci rozwiązanie jak to wydajnie
zrobić żebyś mógł konkurować z 50letnim doświadczeniem projektantów
systemów plików ;-) To ja się nie odważę pomagać. Ale jakbyś
chciał pierwsze lepsze rozwiązanie, to bym się odważył podpowiedzieć,
że można zrobić koleję zadań. Zadania do kolejki będą dodawawane
przez aplikacje klienckie. Natomiast system plików z kolejki w N
wątkach będzie pobierał zadania. Jednakże, jeśli jeden wątek
otrzyma zadanie file_1, dotyczące pliku 'file' i w kolejce pojawi
się zadanie file_2, dotyczące tego samego pliku 'file', to algorytm
XYZ będzie musiał zdecydować, czy zadanie jest krytyczne dla bezpieczeństwa
struktury danych, czy też nie. Jeśli nie, to będzie musiał czekać
aż wątek obsługujący zadanie file_1 zakończy działanie i dopiero
potem przydzielić zadanie file_2. Algorytm XYZ wymaga zastanowienia...
W najprostszej wersji zapis do jednego pliku można robić równolegle,
bo aplikacja kliencka powinna zadbać o to, aby zapisy były bezpieczne.
Podobnie odczty można robić w wielu wątkach. Natomiast odczyt musi
czekać aż wszystkie zapisy się zakończą. Zapis też musi czekać aż
wszystkie odczyty się zakończą. Potem wyjątek, jeśli zapis i odczyt
pochodzi z różnych procesów/wątków, to może być zrównoleglany, bo o to
aplikacja kliencka już powinna zadbać. A zmiana rozmiaru plików...
nie wiem... chyba powinna być traktowana jako zapis.
Dodam, nie polegaj szczególnie na tym, wymyśliłem to w chwili
pisania tego posta, nigdy nic nie czytałem o systemach plików.
Poza tym to jest bardzo ogólnikowe, w praktyce dojdzie pierdylion
szczegółów.
> > Pracują np. dwa wątki. Jeden pisze do
> > pliku, drugi kasuje plik. Jeśli jeden najpierw zapisze, a drugi
> > skasuje - to pliku nie będzie. Jeśli najpierw skasuje, a
> > potem dojdzie do próby zapisania, to też nie będzie pliku - fs
> > zwróci po prostu błąd zapisu.
> Super. Tego właśnie oczekuje. Ma się nie rozsypać. To że w danych jest
> sieczka, to problem aplikacji, nie fs.
Jeśli chesz to implementować pod konkretne zastosowanie, to może
się też rozwalić FS, bo będziesz wiedział że dana kombinacja
operacji nigdy nie nastąpi i w praktyce jednak się nie rozwali.
> > Można zrobić taki rozwiązanie, że jak jeden wątek chce plik do
> > zapisu, to FS czeka aż wszystkie inne wątki zamkną plik.
> O nie.
Przydatność zależy od konkretnego zastosowania.
> >> Nieprawda. Jeśli jeden watek zapisuje jakas częśc pliku, inny może
> >> zapisuwać inną część tego samego pliku. DB często tak robią.
> > Dlatego pisałem NA TYCH SAMYCH DANYCH, a INNE CZĘŚCI PLIKU to już
> > nie są TE SAME DANE.
> To żadna róznica. fs nie obchodzi co i gdzie zapisuje. Jeśli ktoś
> zapisuje te same dane pikoseundę później to nie jest problem fs.
> > Nie wiem... Dla mnie to brzmi trochę jak mieszanie rozwiązania szczegółowego z
> > ogólnym. W szczegółowych zastosowaniach to programista wie które operacje
> > powinny być atomowe i uzyskuje taki efekt poprzez synchronizację wątków.
> Nie rozmawiamy tutaj o kliencie tego fs. W nim ta wiedza istnieje.
Zaczęliśmy rozmowę od tego, że głupio gdy aplikacja zapisuje dane w
katalogu a nie w pliku, więc zahaczaliśmy też mocno o klienta.
> W fs nie ma żadnej wiedzy o atomowości operacji na plikach.
Ale Ty chcesz pisać swój, bardzo specyficzny, zoptymalizowany
pod konkretną aplikację - tak zrozumiałem.
> Jedyne co
> wymagam od niego to fakt że "open" zadziała atomowo, "close" zadziała
> atomowo, "rm" itd. Ma pozwolić na 2x write jednocześnie w to samo
> miejsce i się nie rozlecieć.
To w pierwszym akapicie tego posta dałem zarys synchronizacji, a
chyba w pierwszym poscie zaproponowałem strukturę danych (tam
gdzie byłą lista list, nagłówek pliku, nagłówki miejsca pustego,
zajętego, itd.) Nic bardziej szczegółowego w trakcie luźnej
rozmowy nie podpowiem.
> > A budowa wewnętrzna dzienników to jest po prostu spis operacji i
> > kopia danych które w razie usterki będzie trzeba odtworzyć.
> To zdecydownie nie wygląda tak prosto w kodzie ext4...
Bo, jak się domyślam, są mocno zoptymalizowane i mają pierdylion
opcji dobieranych w (auto)tuningu i mogą się dostosować do
wielu urządzeń.
Pozdrawiam
Następne wpisy z tego wątku
- 08.02.21 18:41 heby
- 08.02.21 19:47 M.M.
- 08.02.21 20:33 Piotr Chamera
- 08.02.21 20:35 heby
- 05.04.21 03:51 J-23
- 05.04.21 11:30 heby
- 05.04.21 20:27 J-23
- 05.04.21 23:04 heby
- 05.04.21 23:55 J-23
- 06.04.21 00:31 J-23
- 06.04.21 10:58 heby
- 06.04.21 11:06 heby
- 06.04.21 11:22 Mateusz Viste
- 06.04.21 12:03 heby
- 06.04.21 16:54 J-23
Najnowsze wątki z tej grupy
- Can you activate BMW 48V 10Ah Li-Ion battery, connecting to CAN-USB laptop interface ?
- We Wrocławiu ruszyła Odra 5, pierwszy w Polsce komputer kwantowy z nadprzewodzącymi kubitami
- Ada-Europe - AEiC 2025 early registration deadline imminent
- John Carmack twierdzi, że gdyby gry były optymalizowane, to wystarczyły by stare kompy
- Ada-Europe Int.Conf. Reliable Software Technologies, AEiC 2025
- Linuks od wer. 6.15 przestanie wspierać procesory 486 i będzie wymagać min. Pentium
- ,,Polski przemysł jest w stanie agonalnym" - podkreślił dobitnie, wskazując na brak zamówień.
- Rewolucja w debugowaniu!!! SI analizuje zrzuty pamięci systemu M$ Windows!!!
- Brednie w wiki - hasło Dehomag
- Perfidne ataki krakerów z KRLD na skrypciarzy JS i Pajton
- Instytut IDEAS może zacząć działać: "Ma to być unikalny w europejskiej skali ośrodek badań nad sztuczną inteligencją."
- Instytut IDEAS może zacząć działać: "Ma to być unikalny w europejskiej skali ośrodek badań nad sztuczną inteligencją."
- Instytut IDEAS może zacząć działać: "Ma to być unikalny w europejskiej skali ośrodek badań nad sztuczną inteligencją."
- U nas propagują modę na SI, a w Chinach naukowcy SI po kolei umierają w wieku 40-50lat
- C++. Podróż Po Języku - komentarz
Najnowsze wątki
- 2025-07-07 Re: Ząbki się spaliły jak wiejskie, drewniane stodoły sprzed 50 lat
- 2025-07-06 Kup szybko nową ładowarkę do smartfona
- 2025-07-07 TV z Play (dawniej UPC) -- potrzebny dekoder?
- 2025-07-06 Kup szybko nową ładowarkę do smartfona
- 2025-07-07 mija rok jeżdzenia po lewej
- 2025-07-06 Elektryki jednak są NIEBEZPIECZNE
- 2025-07-08 Fajny film widziałem...
- 2025-07-07 Re: Ząbki się spaliły jak wiejskie, drewniane stodoły sprzed 50 lat
- 2025-07-06 Kup szybko nową ładowarkę do smartfona
- 2025-07-07 Gdańsk => Programista Kotlin <=
- 2025-07-07 Białystok => Mainframe (z/OS, Assembler) Developer <=
- 2025-07-07 Warszawa => Asystent ds. Sprzedaży i Rozwoju Klienta <=
- 2025-07-07 Warszawa => International Freight Forwarder <=
- 2025-07-07 Warszawa => Java Developer <=
- 2025-07-07 Białystok => Software Engineer .Net <=