Supermózg dla superczłowieka?
Benjamin Rapoport, neurochirurg z Weill Cornell Brain and Spine Center, pracujący nad projektem, który bezpośrednio połączyłby mózg ze sztuczną inteligencją, zapytał niedawno:
– Czym człowiek jest w sensie fundamentalnym? Większość ludzi uważa, że umysłem. Ale czy umysł może istnieć tylko na podłożu biologicznym, na niepozornym i delikatnym organie, który waży 1,5 kg?
Czy świadomość i umysł są w stanie funkcjonować na bazie innego obiektu fizycznego, np. komputera? Dwukierunkowy, szerokopasmowy interfejs mózgowy może być dostępny już w ciągu dekady, a naukowcy od wielu lat próbują odwzorować, modelować i, kto wie, może nawet odtworzyć w pamięci syntetycznej nasze niewiarygodne sto miliardów neuronów w mózgu i więcej niż sto bilionów połączeń między nimi. Na razie udało nam się wymodelować pojedyncze synapsy lub ich niewielkie zespoły. Wydaje się jednak, że przy pomocy znanych już i dostępnych technik moglibyśmy osiągnąć „emulację całego mózgu”. Wielu badaczy sądzi, że to tylko kwestia skali, ilościowa, a nie jakościowa, czyli że aby to osiągnąć, wystarczy zwiększyć pojemność, szybkość i doskonałość techniczną przetwarzania komputerowego. Powstałyby wtedy trwałe i – miejmy nadzieję – bezpieczne, cyfrowe kopie naszych mózgów. Zachowujące świadomość.
Ale czy byłaby to nasza świadomość? Czy to w ogóle bylibyśmy my? Jak bardzo nasza tożsamość wywodzi się z dotykowych, sensorycznych i emocjonalnych aspektów funkcjonowania w określonym ciele, a nie na dysku D umieszczonym gdzieś na farmie serwerów?
Chip w mózgu
Migracja treści umysłu do maszyny to jedna z badanych dróg. Najbardziej radykalna. Jest też wiele pomysłów wprowadzających integrację mózgowo-maszynową stopniowo i niejako od drugiej strony, nie tyle przenosząc mózg do komputera, co dodając elementy komputera do biologicznego mózgu.
Przykładowo, firma Kernel już od 2011 r. pracuje nad implantem mózgowym (2), który ma zwiększyć nasze zdolności poznawcze. Założyciel firmy wierzy, że w ciągu najbliższych piętnastu lat ludzkość będzie w stanie sztucznie zwiększyć swoje naturalne zdolności umysłowe poprzez wszczepienie chipów komputerowych bezpośrednio do mózgu.
Kernel oferuje już implant mózgowy opracowany przez Teda Bergera z Uniwersytetu Południowej Kalifornii. Wszczepione do mózgu urządzenie wspomaga proces zapamiętywania. Zostało już przetestowane na szczurach oraz na naczelnych. Implant łączy się z hipokampem, czyli obszarem mózgu odpowiedzialnym za pamięć. Działa jako rodzaj wzmacniacza. Urządzenie odbiera impulsy nerwowe w czasie nauki, przetwarza za pomocą wbudowanego mikroprocesora, po czym stymuluje hipokamp silnymi impulsami, mającymi naśladować te naturalne. Badacze poszukiwali też wspólnych wzorców wspomnień u badanych zwierząt. Okazało się, że szczury, ucząc się tych samych rzeczy, kodują je w swoich mózgach w podobny sposób. Dla badanych naczelnych nie udało się jednak póki co odnaleźć owych wspólnych wzorców. Dla człowieka będzie to zapewne jeszcze bardziej skomplikowane.
Jeżeli dalsze eksperymenty to potwierdzą, pojawi się szansa na urządzenie, które zapewni nam pamięć niemal absolutną. A przy okazji, o czym autorzy nie piszą, co wynika jednak logicznie z ich odkryć, wyraźnie rysuje się możliwość wypełniania mózgu nowymi wspomnieniami, których tam wcześniej nie było. Realna staje się również niestety kradzież wspomnień, czyli wyciąganie z mózgu – niezależnie od woli badanego – różnych informacji.
Nieco podobna, lecz dalej – przynajmniej w założeniach – idąca jest technologia rozwijana od kilku lat przez Amerykańską Agencję Zaawansowanych Projektów Badawczych w Obszarze Obronności (DARPA). Mówi się, iż koncepcja ma nie tylko być przydatna dla osób niepełnosprawnych lub żołnierzy poszkodowanych w walce, lecz również stanowić ewolucję w sposobie korzystania z wszelkiego oprogramowania i pracy na komputerach. Projekt nazwany Neural Engineering System Design nakierowany jest na stworzenie implantów pozwalających na bardzo wydajną, dwukierunkową komunikację między ludzkim mózgiem a komputerem. Do tej pory możliwe było komunikowanie się tego typu implantów za pośrednictwem jedynie kilkuset neuronów. Tym razem zakłada się rozszerzenie dostępu do ponad miliona neuronów, co i tak wydaje się liczbą błahą, jeśli weźmiemy pod uwagę, że ludzki mózg ma ich prawie 100 miliardów. Warto zaznaczyć, że istotnym wymogiem projektu jest nie tylko zdolność komunikacji człowieka z maszyną, bowiem opracowywany interfejs ma być dwukierunkowy.
DARPA (3) finansuje również badania nad nieinwazyjnym urządzeniem, które pobudza mózg, poprawiając funkcje poznawcze. W testach na makakach zwiększyło to tempo uczenia się małp o 40%. W badaniu opublikowanym w czasopiśmie „Current Biology” zespół z HRL Laboratories opisuje, w jaki sposób wykorzystywał nieinwazyjną przezczaszkową stymulację prądu stałego (TDCS) w celu stymulacji kory przedczołowej u makaków.
Agencji DARPA marzy się permanentne kontrolowanie procesów zachodzących w ludzkim mózgu. Jakiś czas temu informowała o pracach nad implantem, dzięki któremu żołnierze mogliby usuwać ze swoich umysłów traumatyczne wspomnienia, a potem dowiedzieliśmy się, że powstał implant służący przywracaniu pamięci. Inżynierowie z DARPA przeprowadzili już nawet eksperymenty na piętnastu pacjentach w Centrum Medycznym Wake Forest leżącym w mieście Winston w Karolinie Północnej. Okazuje się, że opracowana przez nich „pamięć protetyczna” zaowocowała poprawą pamięci krótkotrwałej u pacjentów o średnio aż 35%.
Tetris na trzy mózgi
Międzynarodowa grupa naukowa, na której czele stoją uczeni z Uniwersytetu Kalifornijskiego w Berkeley oraz US Institute for Molecular Manufacturing, twierdzi, że jeszcze w bieżącym wieku powstanie interfejs łączący ludzki mózg z chmurą komputerową (4). Zapewniałby człowiekowi natychmiastowy i stały dostęp zarówno do danych, jak i zasobów obliczeniowych chmury. Artykuł opisujący takie rozwiązanie opublikowano na łamach „Frontiers in Neuroscience”.
Ostatecznym celem tego rodzaju technologii byłoby pobieranie informacji do mózgu, zwiększające ludzkie możliwości i inteligencję. Według szacunków wspomnianego zespołu, istniejące superkomputery osiągnęły już zarówno prędkość, jak i moc przetwarzania danych niezbędne do obsługi interfejsu Brain/Cloud (B/CI) – i cały czas się poprawiają. Wąskie gardło technologiczne istnieje jeszcze w rozwoju interfejsu mózgowego. Uczeni z Berkeley wskazują również na ostatnie osiągnięcia, takie jak BrainNet z 2018 r., który pozwolił trzem ludzkim graczom na interakcję i grę wideo w Tetris wyłącznie za pomocą myśli (5). Naukowcy uważają, że podobne eksperymenty mogą prowadzić do „stworzenia supermózgów, wykorzystujących moc myślenia dowolnej liczby ludzi i maszyn w czasie rzeczywistym”.
Koncepcja interfejsu B/CI została zaproponowana przez futurystę i wynalazcę Raya Kurzweila. Sugeruje on, że np. neuronowe nanoroboty mogą zostać wykorzystane do połączenia kory nowej mózgu człowieka z „syntetyczną korą nową” chmury obliczeniowej. Zapewniałoby to dostęp do niej w czasie rzeczywistym, a także monitorowanie połączenia i kontrolę sygnałów przesyłanych między chmurą a ludzkim mózgiem. Urządzenia te miałyby się przemieszczać w naczyniach krwionośnych, przekraczać barierę krew-mózg i precyzyjnie pozycjonować wśród, a nawet wewnątrz, komórek mózgu. Następnie bezprzewodowo przesyłałyby zakodowane informacje do superkomputerów w chmurze.
Wedle jego koncepcji mielibyśmy do czynienia ze swoistym internetem myśli. Jak mówi jeden z głównych autorów podobnego rozwiązania, dr Nuno Martins, interfejs B/CI sterowany za pomocą neuronowych nanorobotów dałby człowiekowi natychmiastowy dostęp do całej ludzkiej wiedzy przechowywanej w chmurze, jednocześnie zwiększając możliwości uczenia się i inteligencji. B/CI pozwoliłby też na stworzenie w przyszłości jednego wielkiego „globalnego supermózgu”, składającego się z umysłów wszystkich ludzi oraz sztucznej inteligencji.
Największym wyzwaniem nowej technologii będzie bezpieczne umieszczenie w mózgu neutralnych dla organizmu nanocząstek i nanorobotów. Zdaniem naukowców, najpoważniejszym ograniczeniem rozwoju B/CI stanie się zaś zapewnienie odpowiednio szybkiego transferu danych do i z chmury obliczeniowej. To wyzwanie oznacza konieczność nie tylko znalezienia pasma dla globalnej transmisji, ale również rozwiązania problemu wymiany danych między chmurą a neuronami za pomocą niewielkich urządzeń znajdujących się głęboko w mózgu.
Jednym z proponowanych rozwiązań jest zastosowanie nanocząstek magnetoelektrycznych. Były już używane w organizmach myszy – do połączenia zewnętrznego pola magnetycznego z polem elektrycznym neuronów, czyli do wykrywania i lokalnego wzmacniania sygnałów magnetycznych, co z kolei pozwoliło na zmianę aktywności elektrycznej neuronów. Mogą też działać odwrotnie, czyli wzmacniać sygnały elektryczne wytwarzane przez neurony i nanoroboty, co pozwoli na ich wykrycie poza czaszką. We wspominanym eksperymentalnym systemie BrainNet wykorzystano w tym celu przezczaszkową rejestrację sygnałów elektrycznych nadawcy i przezczaszkową stymulację magnetyczną odbiorcy, co pozwoliło obu osobom na wspólną pracę.
Są też inne pomysły. Naukowcy ogłosili w kwietniu tego roku na łamach „Nature Communications”, że opracowali nowy „materiał kwantowy”, który pewnego dnia mógłby przenosić informacje bezpośrednio z ludzkiego mózgu do komputera (zob. Mechanika kwantowa a "nieśmiertelność duszy"). Określany jest jako „siatka niklowa” (6), w przyszłości będąca w stanie bezpośrednio tłumaczyć sygnały elektrochemiczne mózgu na aktywność elektryczną, interpretowaną przez komputer.
– Możemy śmiało powiedzieć, że materiał ten stanowi potencjalną drogę do zbudowania urządzenia komputerowego, przechowującego i przekazującego wspomnienia – oświadczył w rozmowie z serwisem ScienceBlog inżynier z Uniwersytetu Purdue (6), Shriram Ramanathan.
Tranzystory jonowe zamiast tradycyjnych
Umieszczone w implantach tranzystory krzemowe mogą wykonywać podstawowe czynności mózgowe – zapisywać sygnały nerwowe, przetwarzać je i analizować za pomocą coraz bardziej zaawansowanych programów wykrywających wzorce, które z kolei da się wykorzystać do stymulacji mózgu lub kontroli inteligentnej protetyki. Jednak nie są biokompatybilne w dłuższej perspektywie. Bez modyfikacji wszczepione elektrody niezmiennie aktywują układ odpornościowy mózgu, więc komórki układu obronnego atakują je jako intruzów. Efekt ów maleje, gdy stosuje się obudowy z tworzyw sztucznych, które organizm toleruje.
Dr Dion Khodagholy z Uniwersytetu Columbia uważa jednak, że do interfejsów mózgowych powinniśmy stosować zupełnie nowe tranzystory, które wygodnie współpracują z ludzką tkanką i mózgiem. W marcu jego zespół opisał w „Science Advances” miękki, elastyczny i biokompatybilny tranzystor, który działa nie na elektronach-dziurach, lecz na jonach. Ponieważ neurony wykorzystują jony do komunikacji, tranzystory jonowe wydają się znacznie bardziej wydajne w przetwarzaniu sygnałów mózgowych w porównaniu z elektroniką konwencjonalną. W serii testów zespół z Columbii był w stanie połączyć wiele tranzystorów w układy, wzmocnić sygnał i tworzyć bramki logiczne, podobne do tych, używanych w krzemowych obliczeniach.
Zdaniem Khodagholy’ego, idealny tranzystor do pracy z mózgiem przede wszystkim musi być zbudowany z biokompatybilnych i stabilnych materiałów. Po drugie, powinien być miękki i elastyczny, aby uniknąć mechanicznych kolizji z miękką tkanką mózgu. Po trzecie, potrzebuje szybkich i skutecznych mechanizmów amplifikacji sygnału. Wreszcie, musi mieć niezależne bramkowanie, tak by każdy tranzystor mógł być kontrolowany oddzielnie, co pozwala na łączenie ich w układy scalone. Zespół badaczy proponuje tranzystory IGT, które wg Khodagholy’ego spełniają powyższe warunki. Katalizatorem przepływów jonowych w kanale tranzystora jest cukier.
Sztuczny mózg?
Inną ścieżkę do uzyskania „supermózgu” stanowią próby budowania syntetycznych odpowiedników tego niezwykłego biologicznego organu. W tym przypadku trzeba najpierw dokładnie mózg zbadać, zmapować, zrozumieć i próbować stworzyć z czegoś jego odpowiednik. Ten ostatni etap, podobnie jak wszystkie poprzednie, to kwestia przyszłości, bowiem znane nam krzemowe układy nie za bardzo się nadają do mózgowych imitacji.
Hipotetyczne sztuczne konstrukcje obliczeniowe naśladujące ludzki mózg nazywane są neuromorficznymi. Termin ten stworzył w latach 80. XX wieku Carver Mead, amerykański uczony. Znane były jego próby imitacji neuronów za pomocą specjalnie skonfigurowanych układów tranzystorowych. Naukowcy z całego świata od dawna usilnie pracują nad systemami nazywanymi sztucznym mózgiem.
Stworzenie go zakłada np. jeden z flagowych projektów badawczych Unii Europejskiej, Human Brain Project (7). Neurolog Henry Markram z Instytutu Mózgu na Politechnice Federalnej w Lozannie w Szwajcarii spędził ostatnie dekady na żmudnym mapowaniu mózgu, neuron po neuronie, co ma pozwolić na zbudowanie stuprocentowo wiernej jego symulacji. W jego projekcie, nazywanym Blue Brain, pomaga mu firma IBM. Ponieważ kora nowa ludzkiego mózgu, odpowiedzialna za wyższe procesy poznawcze, zawiera 15-33 miliardów neuronów, z których każdy może mieć do 10 tys. połączeń synaptycznych, Markram szacuje ilość informacji potrzebnych do odtworzenia jego funkcjonalności na 500 petabajtów. Przewiduje, że superkomputery o mocy obliczeniowej wystarczającej do przetworzenia takiej ilości danych powstaną już w okolicach roku 2020.
Uczeni uważają, że do odtworzenia ludzkiego mózgu przydałaby się jego dokładna mapa. Sto bilionów połączeń w naszym mózgu tworzy zamkniętą całość – trwają więc intensywne prace nad stworzeniem mapy tej niewyobrażanej złożoności, nazywanej konektomem. Pojęcie to zostało po raz pierwszy użyte w pracach naukowych w 2005 r. i to niezależnie od siebie przez dwóch autorów: Olafa Spornsa z Indiana University oraz Patrica Hagmanna ze Szpitala Uniwersyteckiego w Lozannie. Obaj uczeni sądzą, że gdy już stworzą mapę wszystkiego, co się w mózgu dzieje, będzie można zbudować sztuczną wersję tego organu, tak samo sprawną jak wersja naturalna, a potem, kto wie, może nawet lepszą…
Projekt stworzenia konektomu nawiązuje pod względem nazwy oraz istoty do znanego projektu zdekodowania ludzkiego genomu – Human Genome Project. Zamiast pojęcia genomu w inicjowanym projekcie używa się pojęcia „konektom” na określenie całości połączeń neuronalnych mózgu. Z nowym przedsięwzięciem badawczym wiązane są nadzieje, iż zbudowanie pełnej mapy połączeń neuronowych będzie w praktyce nie tylko służyło nauce, ale także pomoże w leczeniu rozmaitych ciężkich chorób.
Pierwszym i dotychczas jedynym w pełni poznanym konektomem jest sieć połączeń neuronów w układzie nerwowym nicienia caenorhabditis elegans. Została ona opracowana przez trójwymiarową rekonstrukcję struktury nerwów przy użyciu mikroskopii elektronowej. Wynik prac opublikowano jeszcze w 1986 r. Największym obecnie przedsięwzięciem badawczym w ramach nowej nauki o nazwie konektomika jest fundowany przez amerykański Narodowy Instytut Zdrowia (30 mln dolarów) projekt poznania ludzkiego konektomu – The Human Connectome Project.
Niektórzy uczeni zwracają jednak uwagę, że sama mapa połączeń może okazać się niewystarczająca do pełnego opisu funkcjonowania mózgu. Pewne badania wskazują np. na ogromną rolę neuromodulatorów, substancji chemicznych wpływających na funkcjonowanie połączeń nerwowych. Eksperymenty mapujących sieć neuronową naukowców zazwyczaj nie biorą tego elementu w ogóle pod uwagę. Nie znaczy to, że prace nad konektomem nie są potrzebne, natomiast z pewnością może on się okazać nie ostatecznym celem i „całością”, tylko kolejnym etapem na drodze poznania w pełni naszego mózgu.
Do budowy jego symulacji być może uda się wykorzystać memrystory, których przydatność w tej mierze udowadniali niedawno naukowcy z Uniwersytetu w Southampton. Ich wykonane z tlenków metali memrystory pełniły funkcje sztucznych synaps, mających uczyć się (wciąż i wciąż, na okrągło) bez interwencji z zewnątrz, korzystając z zestawów danych, zawierających również wiele nieistotnych informacji, tak jak robi to człowiek. Kto wie – jeśli kiedyś połączymy ogólne odkrycia Human Brain Project oraz mapowanie konektomu z rozpoznanymi algorytmami inteligencji i technologiami memrystorowej elektroniki, wówczas może w perspektywie dekad uda nam się zbudować sztuczny mózg, wierną kopię ludzkiego. Nasza syntetyczna kopia prawdopodobnie będzie lepiej przygotowana do rewolucji maszyn niż my.
Chipy jak synapsy
Aby komputery neuromorficzne spełniały swoją funkcję, potrzebne są wspomniane sztuczne synapsy, zmieniające właściwości na skutek uczenia się. SyNAPSE, wynalazek IBM, wymodelował już w listopadzie 2012 r. 530 miliardów neuronów, co przewyższa liczbę neuronów w ludzkim mózgu, których średnio jest tam ok. 86 miliardów. Jednak SyNAPSE działał aż 1500 razy wolniej, przez co do „oryginału” nie sposób było go porównywać. Inny znany projekt sztucznego mózgu to Neurogrid, sztuczny mózg, który jest lżejszą i tańszą wersją modeli z superkomputerów. Zużywa jedynie 5 watów elektryczności, podczas gdy, dla porównania, SyNAPSE – funkcjonujący w oparciu o architekturę Blue Gene/Q – potrzebował do działania aż 8 megawatów. Model ten składa się z szesnastu chipów, z których każdy reprezentuje 65 tys. neuronów. Naukowcy mogą dostosowywać w nich niemal osiemdziesiąt parametrów, dzięki czemu różne rodzaje neuronów zyskują różne właściwości. Ponadto każdy z neuronów Neurogrid może się komunikować z tysiącami innymi, podobnie jak ma to miejsce w mózgu człowieka.
Wiosną 2016 r. naukowcy z ośrodka badawczego IBM Research poinformowali o stworzeniu jeszcze bardziej zaawansowanego neuromorficznego mikroprocesora. Układ ten, zwany TrueNorth, składa się z miliona programowalnych neuronów i 256 milionów programowalnych synaps w 4096 indywidualnych neurosynaptycznych rdzeniach.
Intel od kilku lat pracuje nad technologią neuromorficznych procesorów naśladujących funkcjonowanie ludzkiego mózgu i w końcu pochwalił się pierwszym tego typu urządzeniem. Eksperymentalny chipset o nazwie Loihi już w 2018 r. miał trafić do czołowych uniwersytetów oraz instytutów badawczych zajmujących się rozwijaniem sztucznej inteligencji.
Latem ubiegłego roku grupa naukowców pod kierownictwem Evangelosa Eleftheriou z laboratorium IBM w Zurichu poinformowała w „Nature Nanotechnology”, że udało im się zbudować sztuczną wersję neuronu. Składa się on z warstwy tellurku germanowo-antymonowego, umieszczonej pomiędzy elektrodami. Wykorzystuje się tu zmienność fazową tego materiału, który w zależności od przyłożonego napięcia zmienia się z izolatora w półprzewodnik, a następnie w przewodnik. Zdaniem uczonych, naśladuje to fluktuacje w zachowaniu neuronów. Są też inne projekty, w których zmiany fazowe w sztucznych synapsach przebiegają pod wpływem fali świetlnej, co oznacza znacznie mniejsze zużycie energii. Nie jest więc to jedyne proponowane rozwiązanie.
Pomimo wszystkich tych postępów, zadanie konstruktorów neuromorficznych układów wydaje się wielokrotnie trudniejsze w świetle nowych odkryć uczonych z kalifornijskiej uczelni UCLA. Wynika z nich, że mózg ma ponad sto razy większą pojemność obliczeniową niż wcześniej zakładano. Okazuje się, że dendryty, kiedyś uznawane za proste pasywne kanały do przesyłania sygnałów, są bardzo aktywne elektrycznie, generując dziesięciokrotnie więcej impulsów niż soma (ciało komórki nerwowej).
– Dendryty stanowią ponad 90% tkanki nerwowej – zauważył, Mayank Mehta, neurofizyk z UCLA, opisując badania w mediach.
Prowadzi to do wniosku, że w rzeczywistości mózg pozostaje znacznie potężniejsza machiną, niż nam się wydawało dotychczas. A przecież już i tak sądziliśmy, że jest niezwykle złożony.
Inne badania, zaprezentowane niedawno przez amerykański Instytut Salka, wskazują, że pojemność pamięci mózgu sięga rzędu petabajta. Jak wyjaśniają naukowcy z Instytutu na łamach czasopisma „eLife”, udało im się to stwierdzić, dzięki odkryciu reguł budowy połączeń neuronowych hipokampu i działania na niskich poziomach energetycznych. Podczas konstruowania trójwymiarowego modelu hipokampu – elementu układu limbicznego odpowiedzialnego głównie za pamięć – zespół uczonych zauważył, że istnieje znacznie większa, niż dotychczas myślano, różnorodność rozmiarów i dyskretnych zmian synaps mózgowych. To przekłada się na ok. dziesięciokrotne zwiększenie możliwości przekazu i magazynowania informacji. Zdaniem uczonych, obserwacje te dowodzą, że tam gdzie dotychczas widzieliśmy chaos, występuje precyzyjne i subtelne dopasowywanie sieci neuronowych.
Nie trzeba było zresztą tych najnowszych badań, aby wielu ludzi nauki było mocno sceptycznych wobec projektów budowy sztucznego mózgu. Podkreślają oni od lat, że nawet umiejąc już modelować poszczególne pojedyncze neurony, nie potrafimy ich wytworzyć tak wiele, żeby wystarczyło to do wykreowania sprawnego naśladownictwa naszego własnego mózgu, gdyż zawiera on takich biologicznych procesorów niewiarygodnie dużo. Po drugie, gdybyśmy nawet mieli pod dostatkiem „neuronowego budulca”, to i tak nie będziemy wiedzieli, jak go użyć do odtworzenia mózgowej struktury, bo wciąż jeszcze nie potrafimy precyzyjnie wykreować w systemie technicznym (8) skomplikowanej sieci połączeń oryginału. Po trzecie wreszcie, mimo ogromnego postępu wiedzy na temat anatomii i fizjologii mózgu, wciąż jeszcze nie jest ona wystarczająco szczegółowa i dokładna, żeby w ogóle można było mówić o jakimkolwiek schemacie strukturalnym możliwym do technicznego naśladowania.
Mirosław Usidus
