Zdjęcia generowane przez sztuczną inteligencję z tygodnia na tydzień stają się coraz bardziej realistyczne. Granice między rzeczywistością, a tworzonymi przez AI obrazami jest coraz mniej widoczna. Wszystko to jest możliwe dzięki firmie Midjourney Inc., która jest liderem w dziedzinie grafik generowanych przez sztuczną inteligencję.
Rozwój Midjourney Inc
Firma Midjourney Inc. została założona w San Francisco przez Davida Holza, współzałożyciela Leap Motion i od samego początku zdobyła ogromną popularność. Jej platforma GenAI, która została uruchomiona w wersji beta w lipcu 2022 roku, stała się jednym z najważniejszych narzędzi do tworzenia tego typu grafik Jednak prawdziwym przełomem był rok 2023, kiedy to firma wprowadziła wersję 6 swojego rozwiązania, która dostarczyła zupełnie nowe standardy generowania obrazów.
Funkcje najnowszej wersji
Najnowsza wersja oferuje szereg nowych funkcji i ulepszeń, które mają na celu ułatwienie, przyspieszenie i zwiększenie efektywności procesu tworzenia sztuki. Do jej zalet należą wyższa rozdzielczość (2048×2048 pikseli), zaawansowane przetwarzanie języka naturalnego dla bardziej precyzyjnych i realistycznych obrazów, większą kontrolę nad wariantami grafik, ulepszone generowanie rąk, możliwość tworzenia modeli 3D oraz filmów z tekstu.
Grafika na górze – v 6
grafika na dole – v 5.2
Źródło: https://android.com.pl/tech/672882-midjourney-v6-ai-obrazy/
Najtańszy pakiet Midjourney to 10$ płacąc miesięcznie, a 8$ wybierając rozliczenie roczne (dane styczeń 2024). Pozwala on na wygenerowanie 200 minut pracy, czyli ok. 100 obrazów.
Twórca narzędzia zapowiada także ulepszenia jak 3D i wideo, które prawdopodobnie pojawią się dopiero w wersji 7. Firma planuje także usprawnienia w swoich platformach internetowych i mobilnych.
Jak odróżnić zdjęcie wygenerowane przez AI od prawdziwego zdjęcia?
Jednak pośród tej fascynującej technologii pojawia się też problem. Jak odróżnić zdjęcie wygenerowane przez AI od prawdziwego zdjęcia? To pytanie staje się coraz bardziej istotne, zwłaszcza w kontekście możliwości nadużycia tej technologii. W tym roku zostało opublikowane zdjęcie wygenerowane na Midjurney V6 z promptem phone photo of man holding post-it note, posted to reddit in 2018 –v 6.0 –s 0 –style raw –ar 9:16 w
Na co warto zwrócić uwagę?
Oto krótka analiza tego zdjęcia. Kilka elementów, które od razu rzucają się w oczy:
- Trzy białe punkty na czole tworzą doskonały trójkąt.
- Skóra na palcach nie ma tekstury, dłoń jest ‘plastikowa’, woskowa.
- Twarz ma nienaturalny połysk.
- Widać różnicę w wielkości uszu
- Kołnierz po lewej stronie (patrząc z perspektywy widza) również zwraca uwagę, jego lewy punkt magicznie staje się szwem na ramieniu.
- Włosy są wygładzone, niemal airbrushowane.
- Ponadto linia żuchwy wydaje się być odbiciem lustrzanym.
- Warto zaznaczyć, że większość twarzy jest dość asymetryczna, szczególnie nos.
- Rozmiar ręki, rozmiar notatki, kąt notatki.
Tekst na kartce został dodany za pomocą programu Photoshop.
Oczywiście, te cechy mogą być subtelne i czasem trudno jest je dostrzec, dlatego warto przyjrzeć się uważnie szczegółom takim jak poniżej:
- Symetria i proporcje: Sprawdź, czy proporcje twarzy są realistyczne. AI czasami ma problemy z zachowaniem symetrii twarzy, co może skutkować drobnymi, ale zauważalnymi asymetriami.
- Detale i tekstury: Szczegółowo przyjrzyj się teksturze skóry, włosom i ubraniom. Wygenerowane obrazy mogą zawierać nienaturalne wzory lub błędy tekstur, takie jak powtarzające się elementy.
- Tło: Tła na zdjęciach wygenerowanych przez AI mogą wydawać się niejasne lub posiadać nielogiczne elementy. Zwróć uwagę na to, czy tło jest spójne. Oświetlenie i cienie: Niezgodności w oświetleniu i cieniach mogą być oznaką, że zdjęcie zostało wygenerowane. Cienie powinny odpowiadać kierunkowi i źródłu światła.
- Elementy graficzne i tekst: AI może mieć trudności z prawidłowym wygenerowaniem tekstu lub innych drobnych elementów graficznych. Sprawdź, czy tekst jest czytelny i czy wszystkie znaki są poprawne.
Wykorzystanie AI do oszustw
Warto również wspomnieć o przypadkach, w których generowane obrazy wykorzystywane są do oszustw. Redditowy użytkownik użył narzędzia Stable Diffusion do generowania realistycznych zdjęć w celu oszukania systemu weryfikacji tożsamości. To otwiera drzwi dla potencjalnych oszustw i nadużyć, zwłaszcza w kontekście procedury KYC (Know Your Customer).
Źródło: https://www.facebook.com/story.php?story_fbid=880657874064466&id=100063607833505
KYC jest standardem weryfikacji tożsamości, polegającym na przesłaniu zdjęcia użytkownika trzymającego swój dokument tożsamości, takie jak paszport czy prawo jazdy. Jednak generatywne narzędzia AI, takie jak Stable Diffusion, umożliwiają teraz tworzenie fałszywych zdjęć weryfikacyjnych w zaledwie kilka minut. To stanowi poważne zagrożenie dla instytucji finansowych, platform internetowych i innych podmiotów polegających na KYC w celu zapobiegania oszustwom i zachowaniu zgodności z przepisami.
Rozwój technologii generatywnej AI przynosi ze sobą nowe wyzwania z zakresu bezpieczeństwa. W związku z tym, deweloperzy i eksperci ds. Bezpieczeństwa muszą współpracować nad opracowaniem systemów weryfikacji odpornych na AI. Jednym z takich rozwiązań jest TimeEvidence.com, które oferuje system weryfikacji na żywo, który eliminuje możliwość oszustwa przez AI, wymuszając specyficzną pozycję użytkownika w czasie rzeczywistym.
Ważne jest, abyśmy byli świadomi potencjalnych zagrożeń związanych z rosnącą potęgą generatywnej sztucznej inteligencji i pracowali nad rozwojem środków ostrożności. W rozwoju technologii AI, będziemy musieli być krokiem przed nią, aby zachować bezpieczeństwo naszych danych i tożsamości.
Komentarz analityka:
Zaledwie pół roku temu ludzie nie musieli dokładnie przyglądać się zdjęciom. Teraz nawet jeśli to zrobią na przybliżeniu, to i tak nie zawsze jest to oczywiste. Dla mnie jako analityka OSINT rozpoznawanie różnic między zdjęciami wygenerowanymi przez AI, a autentycznymi zdjęciami jest niezwykle kluczowe. Nieprawdziwe lub manipulowane obrazy mogą stanowić narzędzie dezinformacji lub oszustwa, dlatego też dokładna analiza graficzna oraz korzystanie z dostępnych narzędzi i technik OSINT stają się kluczowym elementem weryfikacji źródeł i treści w cyberprzestrzeni. Analityk OSINT musi być gotowy do wykrywania subtelnych sygnałów w obrazach, które mogą wskazywać na ich sztuczne pochodzenie oraz dołączania ich do szerszego kontekstu, aby zrozumieć potencjalne zagrożenia lub cele związane z danym obrazem.
Autor: Alicja Pawłowska
Źródła:
https://www.facebook.com/story.php?story_fbid=880657874064466&id=100063607833505
https://openaijourney.com/stable-diffusion-fake-user-verification/
