Uklonite duplicirane retke iz datoteke

Izraฤ‘ujem rjeฤnik najฤeลกฤ‡e koriลกtenih lozinki, popularnih ili najฤeลกฤ‡e koriลกtenih od korisnika (... Ne pitajte zaลกto ... HAHAHA), zbog toga uzimam tekst iz drugih rjeฤnika itd., ali, nalazim se u situaciji da postoji mnogo dupliciranih lozinki i moram ukloniti duplicirane retke.

To je, na primjer ... imamo sljedeฤ‡u datoteku: pass.txt

A njegov sadrลพaj je:

asdasd
Lola
ljubav
asdasd
prozori
admin
Linux
asdasd
ljubav

 Kao ลกto vidimo, ponovili smo ยซljubavยปYยซasdasdยซ, Posljednji 3 puta. Kako ukloniti duplikate linija?

Pomoฤ‡u ove naredbe to je jednostavno uฤiniti:

cat pass.txt | sort | uniq > pass-listos.txt

Ovo ฤ‡e generirati datoteku pod nazivom pass-ready.txt koji ฤ‡e sadrลพavati:

admin
asdasd
Linux
Lola
ljubav
prozori

Naredba je VRLO jednostavna ...

  1. maฤka pass.txt - ยปNavedite sadrลพaj datoteke.
  2. vrsta - ยปRazvrstajte sadrลพaj po abecedi.
  3. jedinstven - ยปUklonite dvostruke linije.
  4. > pass-ready.txt - ยปRezultat prethodnih naredbi, stavite ga u datoteku pass-ready.txt (koja ฤ‡e je, kako ne postoji, stvoriti)

To je tako jednostavno ... Upravo sam otkrio tu naredbu vrsta da, vrlo je dobro ... ali, zajedno s jedinstven, oni su dragulj umjetnosti ๏˜€

Nadam se da ste bili od pomoฤ‡i.

pozdravi

tapeta: Ako ลพelite preuzeti pozadinu ยซVolim #! / Bin / bashยปEvo poveznice:

Preuzmite pozadinu

Ostavite svoj komentar

Vaลกa email adresa neฤ‡e biti objavljen. Obavezna polja su oznaฤena s *

*

*

  1. Za podatke odgovoran: Miguel รngel Gatรณn
  2. Svrha podataka: Kontrola neลพeljene poลกte, upravljanje komentarima.
  3. Legitimacija: Vaลก pristanak
  4. Komunikacija podataka: Podaci se neฤ‡e dostavljati treฤ‡im stranama, osim po zakonskoj obvezi.
  5. Pohrana podataka: Baza podataka koju hostira Occentus Networks (EU)
  6. Prava: U bilo kojem trenutku moลพete ograniฤiti, oporaviti i izbrisati svoje podatke.

      Carlos dijo

    Takoฤ‘er moลพete koristiti sort -u.

    ฤŒestitam na blogu, sviฤ‘a mi se!

         KZKG ^ Gaara dijo

      Da baลก.
      Niลกta, puno hvala na komentaru ๐Ÿ˜€

      Dobrodoลกli ๐Ÿ˜‰
      pozdravi

      Diego dijo

    Problem s tim je ลกto mijenja redoslijed rijeฤi, djeluje ... ali na kraju se rezultat puno razlikuje od izvornika po redoslijedu (ลกto je moลพda u nekom sluฤaju vaลพno)

         KZKG ^ Gaara dijo

      Da, zaista, ovo poreda rijeฤi po abecedi, pa ako je sadrลพaj potreban BEZ varijacija, ovo rjeลกenje nije idealno.

         Carlos dijo

      Ne zajebavajte se, ลกto ako ne stavite naredbu za sortiranje? molim te, razmisli malo viลกe i ne daj sve proลพvakati.

      maฤka pass.txt | uniq> pass-ready.txt

           Eliuber dijo

        ne ide, probao sam

           plovak dijo

        ne radi jer "ponovljeni" redovi moraju biti kontinuirani

      bez imena dijo

    hvala

    sasvim je korisno

      giskard dijo

    Vrlo dobro! Jednostavno i jasno rjeลกenje. Sviฤ‘aju mi โ€‹โ€‹se takve stvari ๐Ÿ™‚
    Moram priznati da bih uฤinio neลกto u Pythonu, ali ovo je rjeลกenje u redu.

         KZKG ^ Gaara dijo

      hvala ^ - ^

      talenat dijo

    Zdravo! vrlo dobro!
    Imam upit, molim
    to bi mi odgovaralo za sljedeฤ‡i primjer:
    ABCD 1111
    DEFG 2222 45455
    ABCD 1111
    DEFG 2222

    Redovi su isti, ali imaju razmake i joลก nekoliko znakova ... provjerava li to istu rijeฤ? ili linijom? Ja objaลกnjavam?
    od sada, puno vam hvala.
    Zagrljaj

         KZKG ^ Gaara dijo

      Bok, kako si,
      Kao ลกto sam vidio, ovo usporeฤ‘uje linije, a ne stupce, pa bi u primjeru koji mi date ovo uklonilo ili 1. ili 3., 2. i 4. redak, iako su gotovo identiฤni, nisu 100% identiฤni jer imaju stupac razlike. ๐Ÿ˜‰

      Hvala na komentaru ^ - ^

           ZUBAC dijo

        Zahvaljujuฤ‡i tebi!! prije nego ลกto je satu trebalo da Oracle ukloni duplikate ... sada treba 30 sekundi za sortiranje maฤaka !!

      MegaBedder dijo

    Potreban mi je u PHP: S

         KZKG ^ Gaara dijo

      Uff ... Koristim PHP jer sam jako, jako nizak, nisam zapravo programer

      ลฝao mi je.

         brunocascio dijo

      Za php postoji array_unique (...) u sluลพbenoj PHP dokumentaciji pronaฤ‡i ฤ‡ete mnoge vaลพne i uฤinkovite funkcije.

      ล to se tiฤe sortiranja, osim ako vam je potrebna, nije potrebno ... Vrijeme izvrลกenja i memorija se troลกe. (za ono ลกto je uฤinjeno u postu)

      Pozdrav!

      ลกtreber dijo

    Wow !! rjeฤnik za upotrebu kao gruba sila !! XD

      Gustavo dijo

    Vrlo dobra kombinacija sort with uniq! Puno mi je pomoglo ukloniti duplikate linija.

    hvala

      Gustavo dijo

    Carlosov komentar, unatoฤ svojoj aroganciji, nije valjan. Kaลพe da se koristi:

    maฤka pass.txt | uniq> pass-ready.txt

    meฤ‘utim preduvjet uniq-a je da je datoteka naruฤena. Trebali ste malo viลกe razmisliti o tome ili se informirati prije.

      Eliuber dijo

    vrlo dobro, uลกtedjeli ste mi puno vremena radeฤ‡i moj bash

      Kremenci dijo

    awk '! array_temp [$ 0] ++' pass.txt> pass-ready.txt
    s tim se linije uklanjaju bez potrebe za naruฤivanjem.

      miniminime dijo

    Hvala vam puno za ulaz!

    Iako bi bilo cool napraviti ga jedinstvenim bez promjene redoslijeda, ali hej, lagana i korisna naredba!

      Felipe Gutierrez dijo

    Hvala, puno mi je pomoglo ๐Ÿ˜‰

      Ernesto dijo

    ja imam ovo
    C000006158880201502051056088364 C00-06158880
    C000007601673201503051056088364 C00-07601673
    C000008659304201504051056088364 C00-08659304
    T 0809074070562015120818144287185REAร‘O RUBINOS EMILIA DORIS
    T 0809092979972016010818144287185REAร‘O RUBINOS EMILIA DORIS
    C000005398451201501231044214375 C00-05398451
    C000007674996201503051000000286 C00-07674996
    C000008514288201504051000000463 C00-08514288
    C000011613498201506051056088070 C00-11613498

    Kako mogu postiฤ‡i da u datoteci obojim samo duplikate po pretplatniku, a one koji nisu duplikati ostavim u drugoj?

    pretplatnik je u poziciji 23 (10 pozicija)

      Fernando dijo

    poredak -u -k 1,1 File.txt> result.txt

    Ovo sortira datoteku po prvom polju

      Ja sam diego dijo

    2020. i joลก uvijek sluลพim, puno vam hvala!

      Sarah dijo

    Jeste li suraฤ‘ivali s loลกim softverom, ako ste se odluฤili za datoteku teksta u Linuxu ili sustavu Windows ฤ‘ฦฐแปฃc khรดng? Cลฉng nhฦฐ trฦฐแปng hแปฃp cแปงa bแบกn, khi tรดi tแบกo file tแปซ ฤ‘iแปƒn vรฌ tรดi chia nแป™i dung ra nรชn Cรณ khรก nhiแปu file vร  chแบฏc chแบฏn con nhiแปu dรฒng trรนng lแบทp giแปฏa Cรกc file. Vรญ dแปฅ: Datoteka 1 cแปงa tรดi co 5 dรฒng, datoteka 2 co 15 dรฒng (co 2 dรฒng trรนng lแบทp vแป›i File 1. Tรดi muแป‘n co kแบฟt quแบฃ, Datoteka 1 vแบซn giแปฏ nguyรชn 5 dรฒng, Datoteka 2 samo bแป 2 dรฒng giแป‘ng datoteka 1 .
    Nhฦฐ bแบกn biแบฟt co nhiแปu li do chรบng ta ko thแปƒ gแป™p cรกc datoteka txt ฤ‘รณ lแบกi vแป›i nhau, vรฌ nhแปฏng tekst datoteke tแปซ ฤ‘iแปƒn rแบฅt ฦฐ lร  nhiแปu kรฝ, chแบณng hแบกn nhฦฐ Rockyou. Thแปฑc tแบฟ tรดi muแป‘n thแปฑc hiแป‡n ฤ‘iแปu nร y bรชn Windows hฦกn, vร  chแบฏc chแบฏn ko thแปƒ gแป™p chรบng แปŸ bรชn Windows ฤ‘ฦฐแปฃc. Hy vแปng nhแบญn ฤ‘ฦฐแปฃc phแบฃn hแป“i tแปซ bแบกn!