OLD | NEW |
1 #if defined(__x86_64__) | 1 #if defined(__x86_64__) |
2 .text | 2 .text |
3 | 3 |
4 .extern asm_AES_encrypt | 4 .extern asm_AES_encrypt |
5 .hidden asm_AES_encrypt | 5 .hidden asm_AES_encrypt |
6 .extern asm_AES_decrypt | 6 .extern asm_AES_decrypt |
7 .hidden asm_AES_decrypt | 7 .hidden asm_AES_decrypt |
8 | 8 |
9 .type _bsaes_encrypt8,@function | 9 .type _bsaes_encrypt8,@function |
10 .align 64 | 10 .align 64 |
(...skipping 309 matching lines...) Expand 10 before | Expand all | Expand 10 after Loading... |
320 | 320 |
321 pxor %xmm4,%xmm0 | 321 pxor %xmm4,%xmm0 |
322 pxor %xmm1,%xmm4 | 322 pxor %xmm1,%xmm4 |
323 pxor %xmm2,%xmm1 | 323 pxor %xmm2,%xmm1 |
324 pxor %xmm4,%xmm2 | 324 pxor %xmm4,%xmm2 |
325 pxor %xmm4,%xmm3 | 325 pxor %xmm4,%xmm3 |
326 | 326 |
327 pxor %xmm2,%xmm5 | 327 pxor %xmm2,%xmm5 |
328 decl %r10d | 328 decl %r10d |
329 jl .Lenc_done | 329 jl .Lenc_done |
330 » pshufd» $147,%xmm15,%xmm7 | 330 » pshufd» $0x93,%xmm15,%xmm7 |
331 » pshufd» $147,%xmm0,%xmm8 | 331 » pshufd» $0x93,%xmm0,%xmm8 |
332 pxor %xmm7,%xmm15 | 332 pxor %xmm7,%xmm15 |
333 » pshufd» $147,%xmm3,%xmm9 | 333 » pshufd» $0x93,%xmm3,%xmm9 |
334 pxor %xmm8,%xmm0 | 334 pxor %xmm8,%xmm0 |
335 » pshufd» $147,%xmm5,%xmm10 | 335 » pshufd» $0x93,%xmm5,%xmm10 |
336 pxor %xmm9,%xmm3 | 336 pxor %xmm9,%xmm3 |
337 » pshufd» $147,%xmm2,%xmm11 | 337 » pshufd» $0x93,%xmm2,%xmm11 |
338 pxor %xmm10,%xmm5 | 338 pxor %xmm10,%xmm5 |
339 » pshufd» $147,%xmm6,%xmm12 | 339 » pshufd» $0x93,%xmm6,%xmm12 |
340 pxor %xmm11,%xmm2 | 340 pxor %xmm11,%xmm2 |
341 » pshufd» $147,%xmm1,%xmm13 | 341 » pshufd» $0x93,%xmm1,%xmm13 |
342 pxor %xmm12,%xmm6 | 342 pxor %xmm12,%xmm6 |
343 » pshufd» $147,%xmm4,%xmm14 | 343 » pshufd» $0x93,%xmm4,%xmm14 |
344 pxor %xmm13,%xmm1 | 344 pxor %xmm13,%xmm1 |
345 pxor %xmm14,%xmm4 | 345 pxor %xmm14,%xmm4 |
346 | 346 |
347 pxor %xmm15,%xmm8 | 347 pxor %xmm15,%xmm8 |
348 pxor %xmm4,%xmm7 | 348 pxor %xmm4,%xmm7 |
349 pxor %xmm4,%xmm8 | 349 pxor %xmm4,%xmm8 |
350 » pshufd» $78,%xmm15,%xmm15 | 350 » pshufd» $0x4E,%xmm15,%xmm15 |
351 pxor %xmm0,%xmm9 | 351 pxor %xmm0,%xmm9 |
352 » pshufd» $78,%xmm0,%xmm0 | 352 » pshufd» $0x4E,%xmm0,%xmm0 |
353 pxor %xmm2,%xmm12 | 353 pxor %xmm2,%xmm12 |
354 pxor %xmm7,%xmm15 | 354 pxor %xmm7,%xmm15 |
355 pxor %xmm6,%xmm13 | 355 pxor %xmm6,%xmm13 |
356 pxor %xmm8,%xmm0 | 356 pxor %xmm8,%xmm0 |
357 pxor %xmm5,%xmm11 | 357 pxor %xmm5,%xmm11 |
358 » pshufd» $78,%xmm2,%xmm7 | 358 » pshufd» $0x4E,%xmm2,%xmm7 |
359 pxor %xmm1,%xmm14 | 359 pxor %xmm1,%xmm14 |
360 » pshufd» $78,%xmm6,%xmm8 | 360 » pshufd» $0x4E,%xmm6,%xmm8 |
361 pxor %xmm3,%xmm10 | 361 pxor %xmm3,%xmm10 |
362 » pshufd» $78,%xmm5,%xmm2 | 362 » pshufd» $0x4E,%xmm5,%xmm2 |
363 pxor %xmm4,%xmm10 | 363 pxor %xmm4,%xmm10 |
364 » pshufd» $78,%xmm4,%xmm6 | 364 » pshufd» $0x4E,%xmm4,%xmm6 |
365 pxor %xmm4,%xmm11 | 365 pxor %xmm4,%xmm11 |
366 » pshufd» $78,%xmm1,%xmm5 | 366 » pshufd» $0x4E,%xmm1,%xmm5 |
367 pxor %xmm11,%xmm7 | 367 pxor %xmm11,%xmm7 |
368 » pshufd» $78,%xmm3,%xmm1 | 368 » pshufd» $0x4E,%xmm3,%xmm1 |
369 pxor %xmm12,%xmm8 | 369 pxor %xmm12,%xmm8 |
370 pxor %xmm10,%xmm2 | 370 pxor %xmm10,%xmm2 |
371 pxor %xmm14,%xmm6 | 371 pxor %xmm14,%xmm6 |
372 pxor %xmm13,%xmm5 | 372 pxor %xmm13,%xmm5 |
373 movdqa %xmm7,%xmm3 | 373 movdqa %xmm7,%xmm3 |
374 pxor %xmm9,%xmm1 | 374 pxor %xmm9,%xmm1 |
375 movdqa %xmm8,%xmm4 | 375 movdqa %xmm8,%xmm4 |
376 movdqa 48(%r11),%xmm7 | 376 movdqa 48(%r11),%xmm7 |
377 jnz .Lenc_loop | 377 jnz .Lenc_loop |
378 movdqa 64(%r11),%xmm7 | 378 movdqa 64(%r11),%xmm7 |
(...skipping 413 matching lines...) Expand 10 before | Expand all | Expand 10 after Loading... |
792 pxor %xmm4,%xmm3 | 792 pxor %xmm4,%xmm3 |
793 pxor %xmm5,%xmm2 | 793 pxor %xmm5,%xmm2 |
794 pxor %xmm0,%xmm5 | 794 pxor %xmm0,%xmm5 |
795 pxor %xmm3,%xmm2 | 795 pxor %xmm3,%xmm2 |
796 | 796 |
797 pxor %xmm15,%xmm3 | 797 pxor %xmm15,%xmm3 |
798 pxor %xmm2,%xmm6 | 798 pxor %xmm2,%xmm6 |
799 decl %r10d | 799 decl %r10d |
800 jl .Ldec_done | 800 jl .Ldec_done |
801 | 801 |
802 » pshufd» $78,%xmm15,%xmm7 | 802 » pshufd» $0x4E,%xmm15,%xmm7 |
803 » pshufd» $78,%xmm2,%xmm13 | 803 » pshufd» $0x4E,%xmm2,%xmm13 |
804 pxor %xmm15,%xmm7 | 804 pxor %xmm15,%xmm7 |
805 » pshufd» $78,%xmm4,%xmm14 | 805 » pshufd» $0x4E,%xmm4,%xmm14 |
806 pxor %xmm2,%xmm13 | 806 pxor %xmm2,%xmm13 |
807 » pshufd» $78,%xmm0,%xmm8 | 807 » pshufd» $0x4E,%xmm0,%xmm8 |
808 pxor %xmm4,%xmm14 | 808 pxor %xmm4,%xmm14 |
809 » pshufd» $78,%xmm5,%xmm9 | 809 » pshufd» $0x4E,%xmm5,%xmm9 |
810 pxor %xmm0,%xmm8 | 810 pxor %xmm0,%xmm8 |
811 » pshufd» $78,%xmm3,%xmm10 | 811 » pshufd» $0x4E,%xmm3,%xmm10 |
812 pxor %xmm5,%xmm9 | 812 pxor %xmm5,%xmm9 |
813 pxor %xmm13,%xmm15 | 813 pxor %xmm13,%xmm15 |
814 pxor %xmm13,%xmm0 | 814 pxor %xmm13,%xmm0 |
815 » pshufd» $78,%xmm1,%xmm11 | 815 » pshufd» $0x4E,%xmm1,%xmm11 |
816 pxor %xmm3,%xmm10 | 816 pxor %xmm3,%xmm10 |
817 pxor %xmm7,%xmm5 | 817 pxor %xmm7,%xmm5 |
818 pxor %xmm8,%xmm3 | 818 pxor %xmm8,%xmm3 |
819 » pshufd» $78,%xmm6,%xmm12 | 819 » pshufd» $0x4E,%xmm6,%xmm12 |
820 pxor %xmm1,%xmm11 | 820 pxor %xmm1,%xmm11 |
821 pxor %xmm14,%xmm0 | 821 pxor %xmm14,%xmm0 |
822 pxor %xmm9,%xmm1 | 822 pxor %xmm9,%xmm1 |
823 pxor %xmm6,%xmm12 | 823 pxor %xmm6,%xmm12 |
824 | 824 |
825 pxor %xmm14,%xmm5 | 825 pxor %xmm14,%xmm5 |
826 pxor %xmm13,%xmm3 | 826 pxor %xmm13,%xmm3 |
827 pxor %xmm13,%xmm1 | 827 pxor %xmm13,%xmm1 |
828 pxor %xmm10,%xmm6 | 828 pxor %xmm10,%xmm6 |
829 pxor %xmm11,%xmm2 | 829 pxor %xmm11,%xmm2 |
830 pxor %xmm14,%xmm1 | 830 pxor %xmm14,%xmm1 |
831 pxor %xmm14,%xmm6 | 831 pxor %xmm14,%xmm6 |
832 pxor %xmm12,%xmm4 | 832 pxor %xmm12,%xmm4 |
833 » pshufd» $147,%xmm15,%xmm7 | 833 » pshufd» $0x93,%xmm15,%xmm7 |
834 » pshufd» $147,%xmm0,%xmm8 | 834 » pshufd» $0x93,%xmm0,%xmm8 |
835 pxor %xmm7,%xmm15 | 835 pxor %xmm7,%xmm15 |
836 » pshufd» $147,%xmm5,%xmm9 | 836 » pshufd» $0x93,%xmm5,%xmm9 |
837 pxor %xmm8,%xmm0 | 837 pxor %xmm8,%xmm0 |
838 » pshufd» $147,%xmm3,%xmm10 | 838 » pshufd» $0x93,%xmm3,%xmm10 |
839 pxor %xmm9,%xmm5 | 839 pxor %xmm9,%xmm5 |
840 » pshufd» $147,%xmm1,%xmm11 | 840 » pshufd» $0x93,%xmm1,%xmm11 |
841 pxor %xmm10,%xmm3 | 841 pxor %xmm10,%xmm3 |
842 » pshufd» $147,%xmm6,%xmm12 | 842 » pshufd» $0x93,%xmm6,%xmm12 |
843 pxor %xmm11,%xmm1 | 843 pxor %xmm11,%xmm1 |
844 » pshufd» $147,%xmm2,%xmm13 | 844 » pshufd» $0x93,%xmm2,%xmm13 |
845 pxor %xmm12,%xmm6 | 845 pxor %xmm12,%xmm6 |
846 » pshufd» $147,%xmm4,%xmm14 | 846 » pshufd» $0x93,%xmm4,%xmm14 |
847 pxor %xmm13,%xmm2 | 847 pxor %xmm13,%xmm2 |
848 pxor %xmm14,%xmm4 | 848 pxor %xmm14,%xmm4 |
849 | 849 |
850 pxor %xmm15,%xmm8 | 850 pxor %xmm15,%xmm8 |
851 pxor %xmm4,%xmm7 | 851 pxor %xmm4,%xmm7 |
852 pxor %xmm4,%xmm8 | 852 pxor %xmm4,%xmm8 |
853 » pshufd» $78,%xmm15,%xmm15 | 853 » pshufd» $0x4E,%xmm15,%xmm15 |
854 pxor %xmm0,%xmm9 | 854 pxor %xmm0,%xmm9 |
855 » pshufd» $78,%xmm0,%xmm0 | 855 » pshufd» $0x4E,%xmm0,%xmm0 |
856 pxor %xmm1,%xmm12 | 856 pxor %xmm1,%xmm12 |
857 pxor %xmm7,%xmm15 | 857 pxor %xmm7,%xmm15 |
858 pxor %xmm6,%xmm13 | 858 pxor %xmm6,%xmm13 |
859 pxor %xmm8,%xmm0 | 859 pxor %xmm8,%xmm0 |
860 pxor %xmm3,%xmm11 | 860 pxor %xmm3,%xmm11 |
861 » pshufd» $78,%xmm1,%xmm7 | 861 » pshufd» $0x4E,%xmm1,%xmm7 |
862 pxor %xmm2,%xmm14 | 862 pxor %xmm2,%xmm14 |
863 » pshufd» $78,%xmm6,%xmm8 | 863 » pshufd» $0x4E,%xmm6,%xmm8 |
864 pxor %xmm5,%xmm10 | 864 pxor %xmm5,%xmm10 |
865 » pshufd» $78,%xmm3,%xmm1 | 865 » pshufd» $0x4E,%xmm3,%xmm1 |
866 pxor %xmm4,%xmm10 | 866 pxor %xmm4,%xmm10 |
867 » pshufd» $78,%xmm4,%xmm6 | 867 » pshufd» $0x4E,%xmm4,%xmm6 |
868 pxor %xmm4,%xmm11 | 868 pxor %xmm4,%xmm11 |
869 » pshufd» $78,%xmm2,%xmm3 | 869 » pshufd» $0x4E,%xmm2,%xmm3 |
870 pxor %xmm11,%xmm7 | 870 pxor %xmm11,%xmm7 |
871 » pshufd» $78,%xmm5,%xmm2 | 871 » pshufd» $0x4E,%xmm5,%xmm2 |
872 pxor %xmm12,%xmm8 | 872 pxor %xmm12,%xmm8 |
873 pxor %xmm1,%xmm10 | 873 pxor %xmm1,%xmm10 |
874 pxor %xmm14,%xmm6 | 874 pxor %xmm14,%xmm6 |
875 pxor %xmm3,%xmm13 | 875 pxor %xmm3,%xmm13 |
876 movdqa %xmm7,%xmm3 | 876 movdqa %xmm7,%xmm3 |
877 pxor %xmm9,%xmm2 | 877 pxor %xmm9,%xmm2 |
878 movdqa %xmm13,%xmm5 | 878 movdqa %xmm13,%xmm5 |
879 movdqa %xmm8,%xmm4 | 879 movdqa %xmm8,%xmm4 |
880 movdqa %xmm2,%xmm1 | 880 movdqa %xmm2,%xmm1 |
881 movdqa %xmm10,%xmm2 | 881 movdqa %xmm10,%xmm2 |
(...skipping 670 matching lines...) Expand 10 before | Expand all | Expand 10 after Loading... |
1552 subq %rax,%rsp | 1552 subq %rax,%rsp |
1553 | 1553 |
1554 movq %rsp,%rax | 1554 movq %rsp,%rax |
1555 movq %r15,%rcx | 1555 movq %r15,%rcx |
1556 movl %edx,%r10d | 1556 movl %edx,%r10d |
1557 call _bsaes_key_convert | 1557 call _bsaes_key_convert |
1558 pxor %xmm6,%xmm7 | 1558 pxor %xmm6,%xmm7 |
1559 movdqa %xmm7,(%rax) | 1559 movdqa %xmm7,(%rax) |
1560 | 1560 |
1561 andq $-16,%r14 | 1561 andq $-16,%r14 |
1562 » subq» $128,%rsp | 1562 » subq» $0x80,%rsp |
1563 movdqa 32(%rbp),%xmm6 | 1563 movdqa 32(%rbp),%xmm6 |
1564 | 1564 |
1565 pxor %xmm14,%xmm14 | 1565 pxor %xmm14,%xmm14 |
1566 movdqa .Lxts_magic(%rip),%xmm12 | 1566 movdqa .Lxts_magic(%rip),%xmm12 |
1567 pcmpgtd %xmm6,%xmm14 | 1567 pcmpgtd %xmm6,%xmm14 |
1568 | 1568 |
1569 » subq» $128,%r14 | 1569 » subq» $0x80,%r14 |
1570 jc .Lxts_enc_short | 1570 jc .Lxts_enc_short |
1571 jmp .Lxts_enc_loop | 1571 jmp .Lxts_enc_loop |
1572 | 1572 |
1573 .align 16 | 1573 .align 16 |
1574 .Lxts_enc_loop: | 1574 .Lxts_enc_loop: |
1575 » pshufd» $19,%xmm14,%xmm13 | 1575 » pshufd» $0x13,%xmm14,%xmm13 |
1576 pxor %xmm14,%xmm14 | 1576 pxor %xmm14,%xmm14 |
1577 movdqa %xmm6,%xmm15 | 1577 movdqa %xmm6,%xmm15 |
1578 movdqa %xmm6,0(%rsp) | 1578 movdqa %xmm6,0(%rsp) |
1579 paddq %xmm6,%xmm6 | 1579 paddq %xmm6,%xmm6 |
1580 pand %xmm12,%xmm13 | 1580 pand %xmm12,%xmm13 |
1581 pcmpgtd %xmm6,%xmm14 | 1581 pcmpgtd %xmm6,%xmm14 |
1582 pxor %xmm13,%xmm6 | 1582 pxor %xmm13,%xmm6 |
1583 » pshufd» $19,%xmm14,%xmm13 | 1583 » pshufd» $0x13,%xmm14,%xmm13 |
1584 pxor %xmm14,%xmm14 | 1584 pxor %xmm14,%xmm14 |
1585 movdqa %xmm6,%xmm0 | 1585 movdqa %xmm6,%xmm0 |
1586 movdqa %xmm6,16(%rsp) | 1586 movdqa %xmm6,16(%rsp) |
1587 paddq %xmm6,%xmm6 | 1587 paddq %xmm6,%xmm6 |
1588 pand %xmm12,%xmm13 | 1588 pand %xmm12,%xmm13 |
1589 pcmpgtd %xmm6,%xmm14 | 1589 pcmpgtd %xmm6,%xmm14 |
1590 pxor %xmm13,%xmm6 | 1590 pxor %xmm13,%xmm6 |
1591 movdqu 0(%r12),%xmm7 | 1591 movdqu 0(%r12),%xmm7 |
1592 » pshufd» $19,%xmm14,%xmm13 | 1592 » pshufd» $0x13,%xmm14,%xmm13 |
1593 pxor %xmm14,%xmm14 | 1593 pxor %xmm14,%xmm14 |
1594 movdqa %xmm6,%xmm1 | 1594 movdqa %xmm6,%xmm1 |
1595 movdqa %xmm6,32(%rsp) | 1595 movdqa %xmm6,32(%rsp) |
1596 paddq %xmm6,%xmm6 | 1596 paddq %xmm6,%xmm6 |
1597 pand %xmm12,%xmm13 | 1597 pand %xmm12,%xmm13 |
1598 pcmpgtd %xmm6,%xmm14 | 1598 pcmpgtd %xmm6,%xmm14 |
1599 pxor %xmm13,%xmm6 | 1599 pxor %xmm13,%xmm6 |
1600 movdqu 16(%r12),%xmm8 | 1600 movdqu 16(%r12),%xmm8 |
1601 pxor %xmm7,%xmm15 | 1601 pxor %xmm7,%xmm15 |
1602 » pshufd» $19,%xmm14,%xmm13 | 1602 » pshufd» $0x13,%xmm14,%xmm13 |
1603 pxor %xmm14,%xmm14 | 1603 pxor %xmm14,%xmm14 |
1604 movdqa %xmm6,%xmm2 | 1604 movdqa %xmm6,%xmm2 |
1605 movdqa %xmm6,48(%rsp) | 1605 movdqa %xmm6,48(%rsp) |
1606 paddq %xmm6,%xmm6 | 1606 paddq %xmm6,%xmm6 |
1607 pand %xmm12,%xmm13 | 1607 pand %xmm12,%xmm13 |
1608 pcmpgtd %xmm6,%xmm14 | 1608 pcmpgtd %xmm6,%xmm14 |
1609 pxor %xmm13,%xmm6 | 1609 pxor %xmm13,%xmm6 |
1610 movdqu 32(%r12),%xmm9 | 1610 movdqu 32(%r12),%xmm9 |
1611 pxor %xmm8,%xmm0 | 1611 pxor %xmm8,%xmm0 |
1612 » pshufd» $19,%xmm14,%xmm13 | 1612 » pshufd» $0x13,%xmm14,%xmm13 |
1613 pxor %xmm14,%xmm14 | 1613 pxor %xmm14,%xmm14 |
1614 movdqa %xmm6,%xmm3 | 1614 movdqa %xmm6,%xmm3 |
1615 movdqa %xmm6,64(%rsp) | 1615 movdqa %xmm6,64(%rsp) |
1616 paddq %xmm6,%xmm6 | 1616 paddq %xmm6,%xmm6 |
1617 pand %xmm12,%xmm13 | 1617 pand %xmm12,%xmm13 |
1618 pcmpgtd %xmm6,%xmm14 | 1618 pcmpgtd %xmm6,%xmm14 |
1619 pxor %xmm13,%xmm6 | 1619 pxor %xmm13,%xmm6 |
1620 movdqu 48(%r12),%xmm10 | 1620 movdqu 48(%r12),%xmm10 |
1621 pxor %xmm9,%xmm1 | 1621 pxor %xmm9,%xmm1 |
1622 » pshufd» $19,%xmm14,%xmm13 | 1622 » pshufd» $0x13,%xmm14,%xmm13 |
1623 pxor %xmm14,%xmm14 | 1623 pxor %xmm14,%xmm14 |
1624 movdqa %xmm6,%xmm4 | 1624 movdqa %xmm6,%xmm4 |
1625 movdqa %xmm6,80(%rsp) | 1625 movdqa %xmm6,80(%rsp) |
1626 paddq %xmm6,%xmm6 | 1626 paddq %xmm6,%xmm6 |
1627 pand %xmm12,%xmm13 | 1627 pand %xmm12,%xmm13 |
1628 pcmpgtd %xmm6,%xmm14 | 1628 pcmpgtd %xmm6,%xmm14 |
1629 pxor %xmm13,%xmm6 | 1629 pxor %xmm13,%xmm6 |
1630 movdqu 64(%r12),%xmm11 | 1630 movdqu 64(%r12),%xmm11 |
1631 pxor %xmm10,%xmm2 | 1631 pxor %xmm10,%xmm2 |
1632 » pshufd» $19,%xmm14,%xmm13 | 1632 » pshufd» $0x13,%xmm14,%xmm13 |
1633 pxor %xmm14,%xmm14 | 1633 pxor %xmm14,%xmm14 |
1634 movdqa %xmm6,%xmm5 | 1634 movdqa %xmm6,%xmm5 |
1635 movdqa %xmm6,96(%rsp) | 1635 movdqa %xmm6,96(%rsp) |
1636 paddq %xmm6,%xmm6 | 1636 paddq %xmm6,%xmm6 |
1637 pand %xmm12,%xmm13 | 1637 pand %xmm12,%xmm13 |
1638 pcmpgtd %xmm6,%xmm14 | 1638 pcmpgtd %xmm6,%xmm14 |
1639 pxor %xmm13,%xmm6 | 1639 pxor %xmm13,%xmm6 |
1640 movdqu 80(%r12),%xmm12 | 1640 movdqu 80(%r12),%xmm12 |
1641 pxor %xmm11,%xmm3 | 1641 pxor %xmm11,%xmm3 |
1642 movdqu 96(%r12),%xmm13 | 1642 movdqu 96(%r12),%xmm13 |
(...skipping 23 matching lines...) Expand all Loading... |
1666 movdqu %xmm6,80(%r13) | 1666 movdqu %xmm6,80(%r13) |
1667 pxor 112(%rsp),%xmm4 | 1667 pxor 112(%rsp),%xmm4 |
1668 movdqu %xmm1,96(%r13) | 1668 movdqu %xmm1,96(%r13) |
1669 movdqu %xmm4,112(%r13) | 1669 movdqu %xmm4,112(%r13) |
1670 leaq 128(%r13),%r13 | 1670 leaq 128(%r13),%r13 |
1671 | 1671 |
1672 movdqa 112(%rsp),%xmm6 | 1672 movdqa 112(%rsp),%xmm6 |
1673 pxor %xmm14,%xmm14 | 1673 pxor %xmm14,%xmm14 |
1674 movdqa .Lxts_magic(%rip),%xmm12 | 1674 movdqa .Lxts_magic(%rip),%xmm12 |
1675 pcmpgtd %xmm6,%xmm14 | 1675 pcmpgtd %xmm6,%xmm14 |
1676 » pshufd» $19,%xmm14,%xmm13 | 1676 » pshufd» $0x13,%xmm14,%xmm13 |
1677 pxor %xmm14,%xmm14 | 1677 pxor %xmm14,%xmm14 |
1678 paddq %xmm6,%xmm6 | 1678 paddq %xmm6,%xmm6 |
1679 pand %xmm12,%xmm13 | 1679 pand %xmm12,%xmm13 |
1680 pcmpgtd %xmm6,%xmm14 | 1680 pcmpgtd %xmm6,%xmm14 |
1681 pxor %xmm13,%xmm6 | 1681 pxor %xmm13,%xmm6 |
1682 | 1682 |
1683 » subq» $128,%r14 | 1683 » subq» $0x80,%r14 |
1684 jnc .Lxts_enc_loop | 1684 jnc .Lxts_enc_loop |
1685 | 1685 |
1686 .Lxts_enc_short: | 1686 .Lxts_enc_short: |
1687 » addq» $128,%r14 | 1687 » addq» $0x80,%r14 |
1688 jz .Lxts_enc_done | 1688 jz .Lxts_enc_done |
1689 » pshufd» $19,%xmm14,%xmm13 | 1689 » pshufd» $0x13,%xmm14,%xmm13 |
1690 pxor %xmm14,%xmm14 | 1690 pxor %xmm14,%xmm14 |
1691 movdqa %xmm6,%xmm15 | 1691 movdqa %xmm6,%xmm15 |
1692 movdqa %xmm6,0(%rsp) | 1692 movdqa %xmm6,0(%rsp) |
1693 paddq %xmm6,%xmm6 | 1693 paddq %xmm6,%xmm6 |
1694 pand %xmm12,%xmm13 | 1694 pand %xmm12,%xmm13 |
1695 pcmpgtd %xmm6,%xmm14 | 1695 pcmpgtd %xmm6,%xmm14 |
1696 pxor %xmm13,%xmm6 | 1696 pxor %xmm13,%xmm6 |
1697 » pshufd» $19,%xmm14,%xmm13 | 1697 » pshufd» $0x13,%xmm14,%xmm13 |
1698 pxor %xmm14,%xmm14 | 1698 pxor %xmm14,%xmm14 |
1699 movdqa %xmm6,%xmm0 | 1699 movdqa %xmm6,%xmm0 |
1700 movdqa %xmm6,16(%rsp) | 1700 movdqa %xmm6,16(%rsp) |
1701 paddq %xmm6,%xmm6 | 1701 paddq %xmm6,%xmm6 |
1702 pand %xmm12,%xmm13 | 1702 pand %xmm12,%xmm13 |
1703 pcmpgtd %xmm6,%xmm14 | 1703 pcmpgtd %xmm6,%xmm14 |
1704 pxor %xmm13,%xmm6 | 1704 pxor %xmm13,%xmm6 |
1705 movdqu 0(%r12),%xmm7 | 1705 movdqu 0(%r12),%xmm7 |
1706 cmpq $16,%r14 | 1706 cmpq $16,%r14 |
1707 je .Lxts_enc_1 | 1707 je .Lxts_enc_1 |
1708 » pshufd» $19,%xmm14,%xmm13 | 1708 » pshufd» $0x13,%xmm14,%xmm13 |
1709 pxor %xmm14,%xmm14 | 1709 pxor %xmm14,%xmm14 |
1710 movdqa %xmm6,%xmm1 | 1710 movdqa %xmm6,%xmm1 |
1711 movdqa %xmm6,32(%rsp) | 1711 movdqa %xmm6,32(%rsp) |
1712 paddq %xmm6,%xmm6 | 1712 paddq %xmm6,%xmm6 |
1713 pand %xmm12,%xmm13 | 1713 pand %xmm12,%xmm13 |
1714 pcmpgtd %xmm6,%xmm14 | 1714 pcmpgtd %xmm6,%xmm14 |
1715 pxor %xmm13,%xmm6 | 1715 pxor %xmm13,%xmm6 |
1716 movdqu 16(%r12),%xmm8 | 1716 movdqu 16(%r12),%xmm8 |
1717 cmpq $32,%r14 | 1717 cmpq $32,%r14 |
1718 je .Lxts_enc_2 | 1718 je .Lxts_enc_2 |
1719 pxor %xmm7,%xmm15 | 1719 pxor %xmm7,%xmm15 |
1720 » pshufd» $19,%xmm14,%xmm13 | 1720 » pshufd» $0x13,%xmm14,%xmm13 |
1721 pxor %xmm14,%xmm14 | 1721 pxor %xmm14,%xmm14 |
1722 movdqa %xmm6,%xmm2 | 1722 movdqa %xmm6,%xmm2 |
1723 movdqa %xmm6,48(%rsp) | 1723 movdqa %xmm6,48(%rsp) |
1724 paddq %xmm6,%xmm6 | 1724 paddq %xmm6,%xmm6 |
1725 pand %xmm12,%xmm13 | 1725 pand %xmm12,%xmm13 |
1726 pcmpgtd %xmm6,%xmm14 | 1726 pcmpgtd %xmm6,%xmm14 |
1727 pxor %xmm13,%xmm6 | 1727 pxor %xmm13,%xmm6 |
1728 movdqu 32(%r12),%xmm9 | 1728 movdqu 32(%r12),%xmm9 |
1729 cmpq $48,%r14 | 1729 cmpq $48,%r14 |
1730 je .Lxts_enc_3 | 1730 je .Lxts_enc_3 |
1731 pxor %xmm8,%xmm0 | 1731 pxor %xmm8,%xmm0 |
1732 » pshufd» $19,%xmm14,%xmm13 | 1732 » pshufd» $0x13,%xmm14,%xmm13 |
1733 pxor %xmm14,%xmm14 | 1733 pxor %xmm14,%xmm14 |
1734 movdqa %xmm6,%xmm3 | 1734 movdqa %xmm6,%xmm3 |
1735 movdqa %xmm6,64(%rsp) | 1735 movdqa %xmm6,64(%rsp) |
1736 paddq %xmm6,%xmm6 | 1736 paddq %xmm6,%xmm6 |
1737 pand %xmm12,%xmm13 | 1737 pand %xmm12,%xmm13 |
1738 pcmpgtd %xmm6,%xmm14 | 1738 pcmpgtd %xmm6,%xmm14 |
1739 pxor %xmm13,%xmm6 | 1739 pxor %xmm13,%xmm6 |
1740 movdqu 48(%r12),%xmm10 | 1740 movdqu 48(%r12),%xmm10 |
1741 cmpq $64,%r14 | 1741 cmpq $64,%r14 |
1742 je .Lxts_enc_4 | 1742 je .Lxts_enc_4 |
1743 pxor %xmm9,%xmm1 | 1743 pxor %xmm9,%xmm1 |
1744 » pshufd» $19,%xmm14,%xmm13 | 1744 » pshufd» $0x13,%xmm14,%xmm13 |
1745 pxor %xmm14,%xmm14 | 1745 pxor %xmm14,%xmm14 |
1746 movdqa %xmm6,%xmm4 | 1746 movdqa %xmm6,%xmm4 |
1747 movdqa %xmm6,80(%rsp) | 1747 movdqa %xmm6,80(%rsp) |
1748 paddq %xmm6,%xmm6 | 1748 paddq %xmm6,%xmm6 |
1749 pand %xmm12,%xmm13 | 1749 pand %xmm12,%xmm13 |
1750 pcmpgtd %xmm6,%xmm14 | 1750 pcmpgtd %xmm6,%xmm14 |
1751 pxor %xmm13,%xmm6 | 1751 pxor %xmm13,%xmm6 |
1752 movdqu 64(%r12),%xmm11 | 1752 movdqu 64(%r12),%xmm11 |
1753 cmpq $80,%r14 | 1753 cmpq $80,%r14 |
1754 je .Lxts_enc_5 | 1754 je .Lxts_enc_5 |
1755 pxor %xmm10,%xmm2 | 1755 pxor %xmm10,%xmm2 |
1756 » pshufd» $19,%xmm14,%xmm13 | 1756 » pshufd» $0x13,%xmm14,%xmm13 |
1757 pxor %xmm14,%xmm14 | 1757 pxor %xmm14,%xmm14 |
1758 movdqa %xmm6,%xmm5 | 1758 movdqa %xmm6,%xmm5 |
1759 movdqa %xmm6,96(%rsp) | 1759 movdqa %xmm6,96(%rsp) |
1760 paddq %xmm6,%xmm6 | 1760 paddq %xmm6,%xmm6 |
1761 pand %xmm12,%xmm13 | 1761 pand %xmm12,%xmm13 |
1762 pcmpgtd %xmm6,%xmm14 | 1762 pcmpgtd %xmm6,%xmm14 |
1763 pxor %xmm13,%xmm6 | 1763 pxor %xmm13,%xmm6 |
1764 movdqu 80(%r12),%xmm12 | 1764 movdqu 80(%r12),%xmm12 |
1765 cmpq $96,%r14 | 1765 cmpq $96,%r14 |
1766 je .Lxts_enc_6 | 1766 je .Lxts_enc_6 |
(...skipping 245 matching lines...) Expand 10 before | Expand all | Expand 10 after Loading... |
2012 movdqa %xmm6,(%rax) | 2012 movdqa %xmm6,(%rax) |
2013 movdqa %xmm7,(%rsp) | 2013 movdqa %xmm7,(%rsp) |
2014 | 2014 |
2015 xorl %eax,%eax | 2015 xorl %eax,%eax |
2016 andq $-16,%r14 | 2016 andq $-16,%r14 |
2017 testl $15,%ebx | 2017 testl $15,%ebx |
2018 setnz %al | 2018 setnz %al |
2019 shlq $4,%rax | 2019 shlq $4,%rax |
2020 subq %rax,%r14 | 2020 subq %rax,%r14 |
2021 | 2021 |
2022 » subq» $128,%rsp | 2022 » subq» $0x80,%rsp |
2023 movdqa 32(%rbp),%xmm6 | 2023 movdqa 32(%rbp),%xmm6 |
2024 | 2024 |
2025 pxor %xmm14,%xmm14 | 2025 pxor %xmm14,%xmm14 |
2026 movdqa .Lxts_magic(%rip),%xmm12 | 2026 movdqa .Lxts_magic(%rip),%xmm12 |
2027 pcmpgtd %xmm6,%xmm14 | 2027 pcmpgtd %xmm6,%xmm14 |
2028 | 2028 |
2029 » subq» $128,%r14 | 2029 » subq» $0x80,%r14 |
2030 jc .Lxts_dec_short | 2030 jc .Lxts_dec_short |
2031 jmp .Lxts_dec_loop | 2031 jmp .Lxts_dec_loop |
2032 | 2032 |
2033 .align 16 | 2033 .align 16 |
2034 .Lxts_dec_loop: | 2034 .Lxts_dec_loop: |
2035 » pshufd» $19,%xmm14,%xmm13 | 2035 » pshufd» $0x13,%xmm14,%xmm13 |
2036 pxor %xmm14,%xmm14 | 2036 pxor %xmm14,%xmm14 |
2037 movdqa %xmm6,%xmm15 | 2037 movdqa %xmm6,%xmm15 |
2038 movdqa %xmm6,0(%rsp) | 2038 movdqa %xmm6,0(%rsp) |
2039 paddq %xmm6,%xmm6 | 2039 paddq %xmm6,%xmm6 |
2040 pand %xmm12,%xmm13 | 2040 pand %xmm12,%xmm13 |
2041 pcmpgtd %xmm6,%xmm14 | 2041 pcmpgtd %xmm6,%xmm14 |
2042 pxor %xmm13,%xmm6 | 2042 pxor %xmm13,%xmm6 |
2043 » pshufd» $19,%xmm14,%xmm13 | 2043 » pshufd» $0x13,%xmm14,%xmm13 |
2044 pxor %xmm14,%xmm14 | 2044 pxor %xmm14,%xmm14 |
2045 movdqa %xmm6,%xmm0 | 2045 movdqa %xmm6,%xmm0 |
2046 movdqa %xmm6,16(%rsp) | 2046 movdqa %xmm6,16(%rsp) |
2047 paddq %xmm6,%xmm6 | 2047 paddq %xmm6,%xmm6 |
2048 pand %xmm12,%xmm13 | 2048 pand %xmm12,%xmm13 |
2049 pcmpgtd %xmm6,%xmm14 | 2049 pcmpgtd %xmm6,%xmm14 |
2050 pxor %xmm13,%xmm6 | 2050 pxor %xmm13,%xmm6 |
2051 movdqu 0(%r12),%xmm7 | 2051 movdqu 0(%r12),%xmm7 |
2052 » pshufd» $19,%xmm14,%xmm13 | 2052 » pshufd» $0x13,%xmm14,%xmm13 |
2053 pxor %xmm14,%xmm14 | 2053 pxor %xmm14,%xmm14 |
2054 movdqa %xmm6,%xmm1 | 2054 movdqa %xmm6,%xmm1 |
2055 movdqa %xmm6,32(%rsp) | 2055 movdqa %xmm6,32(%rsp) |
2056 paddq %xmm6,%xmm6 | 2056 paddq %xmm6,%xmm6 |
2057 pand %xmm12,%xmm13 | 2057 pand %xmm12,%xmm13 |
2058 pcmpgtd %xmm6,%xmm14 | 2058 pcmpgtd %xmm6,%xmm14 |
2059 pxor %xmm13,%xmm6 | 2059 pxor %xmm13,%xmm6 |
2060 movdqu 16(%r12),%xmm8 | 2060 movdqu 16(%r12),%xmm8 |
2061 pxor %xmm7,%xmm15 | 2061 pxor %xmm7,%xmm15 |
2062 » pshufd» $19,%xmm14,%xmm13 | 2062 » pshufd» $0x13,%xmm14,%xmm13 |
2063 pxor %xmm14,%xmm14 | 2063 pxor %xmm14,%xmm14 |
2064 movdqa %xmm6,%xmm2 | 2064 movdqa %xmm6,%xmm2 |
2065 movdqa %xmm6,48(%rsp) | 2065 movdqa %xmm6,48(%rsp) |
2066 paddq %xmm6,%xmm6 | 2066 paddq %xmm6,%xmm6 |
2067 pand %xmm12,%xmm13 | 2067 pand %xmm12,%xmm13 |
2068 pcmpgtd %xmm6,%xmm14 | 2068 pcmpgtd %xmm6,%xmm14 |
2069 pxor %xmm13,%xmm6 | 2069 pxor %xmm13,%xmm6 |
2070 movdqu 32(%r12),%xmm9 | 2070 movdqu 32(%r12),%xmm9 |
2071 pxor %xmm8,%xmm0 | 2071 pxor %xmm8,%xmm0 |
2072 » pshufd» $19,%xmm14,%xmm13 | 2072 » pshufd» $0x13,%xmm14,%xmm13 |
2073 pxor %xmm14,%xmm14 | 2073 pxor %xmm14,%xmm14 |
2074 movdqa %xmm6,%xmm3 | 2074 movdqa %xmm6,%xmm3 |
2075 movdqa %xmm6,64(%rsp) | 2075 movdqa %xmm6,64(%rsp) |
2076 paddq %xmm6,%xmm6 | 2076 paddq %xmm6,%xmm6 |
2077 pand %xmm12,%xmm13 | 2077 pand %xmm12,%xmm13 |
2078 pcmpgtd %xmm6,%xmm14 | 2078 pcmpgtd %xmm6,%xmm14 |
2079 pxor %xmm13,%xmm6 | 2079 pxor %xmm13,%xmm6 |
2080 movdqu 48(%r12),%xmm10 | 2080 movdqu 48(%r12),%xmm10 |
2081 pxor %xmm9,%xmm1 | 2081 pxor %xmm9,%xmm1 |
2082 » pshufd» $19,%xmm14,%xmm13 | 2082 » pshufd» $0x13,%xmm14,%xmm13 |
2083 pxor %xmm14,%xmm14 | 2083 pxor %xmm14,%xmm14 |
2084 movdqa %xmm6,%xmm4 | 2084 movdqa %xmm6,%xmm4 |
2085 movdqa %xmm6,80(%rsp) | 2085 movdqa %xmm6,80(%rsp) |
2086 paddq %xmm6,%xmm6 | 2086 paddq %xmm6,%xmm6 |
2087 pand %xmm12,%xmm13 | 2087 pand %xmm12,%xmm13 |
2088 pcmpgtd %xmm6,%xmm14 | 2088 pcmpgtd %xmm6,%xmm14 |
2089 pxor %xmm13,%xmm6 | 2089 pxor %xmm13,%xmm6 |
2090 movdqu 64(%r12),%xmm11 | 2090 movdqu 64(%r12),%xmm11 |
2091 pxor %xmm10,%xmm2 | 2091 pxor %xmm10,%xmm2 |
2092 » pshufd» $19,%xmm14,%xmm13 | 2092 » pshufd» $0x13,%xmm14,%xmm13 |
2093 pxor %xmm14,%xmm14 | 2093 pxor %xmm14,%xmm14 |
2094 movdqa %xmm6,%xmm5 | 2094 movdqa %xmm6,%xmm5 |
2095 movdqa %xmm6,96(%rsp) | 2095 movdqa %xmm6,96(%rsp) |
2096 paddq %xmm6,%xmm6 | 2096 paddq %xmm6,%xmm6 |
2097 pand %xmm12,%xmm13 | 2097 pand %xmm12,%xmm13 |
2098 pcmpgtd %xmm6,%xmm14 | 2098 pcmpgtd %xmm6,%xmm14 |
2099 pxor %xmm13,%xmm6 | 2099 pxor %xmm13,%xmm6 |
2100 movdqu 80(%r12),%xmm12 | 2100 movdqu 80(%r12),%xmm12 |
2101 pxor %xmm11,%xmm3 | 2101 pxor %xmm11,%xmm3 |
2102 movdqu 96(%r12),%xmm13 | 2102 movdqu 96(%r12),%xmm13 |
(...skipping 23 matching lines...) Expand all Loading... |
2126 movdqu %xmm6,80(%r13) | 2126 movdqu %xmm6,80(%r13) |
2127 pxor 112(%rsp),%xmm4 | 2127 pxor 112(%rsp),%xmm4 |
2128 movdqu %xmm2,96(%r13) | 2128 movdqu %xmm2,96(%r13) |
2129 movdqu %xmm4,112(%r13) | 2129 movdqu %xmm4,112(%r13) |
2130 leaq 128(%r13),%r13 | 2130 leaq 128(%r13),%r13 |
2131 | 2131 |
2132 movdqa 112(%rsp),%xmm6 | 2132 movdqa 112(%rsp),%xmm6 |
2133 pxor %xmm14,%xmm14 | 2133 pxor %xmm14,%xmm14 |
2134 movdqa .Lxts_magic(%rip),%xmm12 | 2134 movdqa .Lxts_magic(%rip),%xmm12 |
2135 pcmpgtd %xmm6,%xmm14 | 2135 pcmpgtd %xmm6,%xmm14 |
2136 » pshufd» $19,%xmm14,%xmm13 | 2136 » pshufd» $0x13,%xmm14,%xmm13 |
2137 pxor %xmm14,%xmm14 | 2137 pxor %xmm14,%xmm14 |
2138 paddq %xmm6,%xmm6 | 2138 paddq %xmm6,%xmm6 |
2139 pand %xmm12,%xmm13 | 2139 pand %xmm12,%xmm13 |
2140 pcmpgtd %xmm6,%xmm14 | 2140 pcmpgtd %xmm6,%xmm14 |
2141 pxor %xmm13,%xmm6 | 2141 pxor %xmm13,%xmm6 |
2142 | 2142 |
2143 » subq» $128,%r14 | 2143 » subq» $0x80,%r14 |
2144 jnc .Lxts_dec_loop | 2144 jnc .Lxts_dec_loop |
2145 | 2145 |
2146 .Lxts_dec_short: | 2146 .Lxts_dec_short: |
2147 » addq» $128,%r14 | 2147 » addq» $0x80,%r14 |
2148 jz .Lxts_dec_done | 2148 jz .Lxts_dec_done |
2149 » pshufd» $19,%xmm14,%xmm13 | 2149 » pshufd» $0x13,%xmm14,%xmm13 |
2150 pxor %xmm14,%xmm14 | 2150 pxor %xmm14,%xmm14 |
2151 movdqa %xmm6,%xmm15 | 2151 movdqa %xmm6,%xmm15 |
2152 movdqa %xmm6,0(%rsp) | 2152 movdqa %xmm6,0(%rsp) |
2153 paddq %xmm6,%xmm6 | 2153 paddq %xmm6,%xmm6 |
2154 pand %xmm12,%xmm13 | 2154 pand %xmm12,%xmm13 |
2155 pcmpgtd %xmm6,%xmm14 | 2155 pcmpgtd %xmm6,%xmm14 |
2156 pxor %xmm13,%xmm6 | 2156 pxor %xmm13,%xmm6 |
2157 » pshufd» $19,%xmm14,%xmm13 | 2157 » pshufd» $0x13,%xmm14,%xmm13 |
2158 pxor %xmm14,%xmm14 | 2158 pxor %xmm14,%xmm14 |
2159 movdqa %xmm6,%xmm0 | 2159 movdqa %xmm6,%xmm0 |
2160 movdqa %xmm6,16(%rsp) | 2160 movdqa %xmm6,16(%rsp) |
2161 paddq %xmm6,%xmm6 | 2161 paddq %xmm6,%xmm6 |
2162 pand %xmm12,%xmm13 | 2162 pand %xmm12,%xmm13 |
2163 pcmpgtd %xmm6,%xmm14 | 2163 pcmpgtd %xmm6,%xmm14 |
2164 pxor %xmm13,%xmm6 | 2164 pxor %xmm13,%xmm6 |
2165 movdqu 0(%r12),%xmm7 | 2165 movdqu 0(%r12),%xmm7 |
2166 cmpq $16,%r14 | 2166 cmpq $16,%r14 |
2167 je .Lxts_dec_1 | 2167 je .Lxts_dec_1 |
2168 » pshufd» $19,%xmm14,%xmm13 | 2168 » pshufd» $0x13,%xmm14,%xmm13 |
2169 pxor %xmm14,%xmm14 | 2169 pxor %xmm14,%xmm14 |
2170 movdqa %xmm6,%xmm1 | 2170 movdqa %xmm6,%xmm1 |
2171 movdqa %xmm6,32(%rsp) | 2171 movdqa %xmm6,32(%rsp) |
2172 paddq %xmm6,%xmm6 | 2172 paddq %xmm6,%xmm6 |
2173 pand %xmm12,%xmm13 | 2173 pand %xmm12,%xmm13 |
2174 pcmpgtd %xmm6,%xmm14 | 2174 pcmpgtd %xmm6,%xmm14 |
2175 pxor %xmm13,%xmm6 | 2175 pxor %xmm13,%xmm6 |
2176 movdqu 16(%r12),%xmm8 | 2176 movdqu 16(%r12),%xmm8 |
2177 cmpq $32,%r14 | 2177 cmpq $32,%r14 |
2178 je .Lxts_dec_2 | 2178 je .Lxts_dec_2 |
2179 pxor %xmm7,%xmm15 | 2179 pxor %xmm7,%xmm15 |
2180 » pshufd» $19,%xmm14,%xmm13 | 2180 » pshufd» $0x13,%xmm14,%xmm13 |
2181 pxor %xmm14,%xmm14 | 2181 pxor %xmm14,%xmm14 |
2182 movdqa %xmm6,%xmm2 | 2182 movdqa %xmm6,%xmm2 |
2183 movdqa %xmm6,48(%rsp) | 2183 movdqa %xmm6,48(%rsp) |
2184 paddq %xmm6,%xmm6 | 2184 paddq %xmm6,%xmm6 |
2185 pand %xmm12,%xmm13 | 2185 pand %xmm12,%xmm13 |
2186 pcmpgtd %xmm6,%xmm14 | 2186 pcmpgtd %xmm6,%xmm14 |
2187 pxor %xmm13,%xmm6 | 2187 pxor %xmm13,%xmm6 |
2188 movdqu 32(%r12),%xmm9 | 2188 movdqu 32(%r12),%xmm9 |
2189 cmpq $48,%r14 | 2189 cmpq $48,%r14 |
2190 je .Lxts_dec_3 | 2190 je .Lxts_dec_3 |
2191 pxor %xmm8,%xmm0 | 2191 pxor %xmm8,%xmm0 |
2192 » pshufd» $19,%xmm14,%xmm13 | 2192 » pshufd» $0x13,%xmm14,%xmm13 |
2193 pxor %xmm14,%xmm14 | 2193 pxor %xmm14,%xmm14 |
2194 movdqa %xmm6,%xmm3 | 2194 movdqa %xmm6,%xmm3 |
2195 movdqa %xmm6,64(%rsp) | 2195 movdqa %xmm6,64(%rsp) |
2196 paddq %xmm6,%xmm6 | 2196 paddq %xmm6,%xmm6 |
2197 pand %xmm12,%xmm13 | 2197 pand %xmm12,%xmm13 |
2198 pcmpgtd %xmm6,%xmm14 | 2198 pcmpgtd %xmm6,%xmm14 |
2199 pxor %xmm13,%xmm6 | 2199 pxor %xmm13,%xmm6 |
2200 movdqu 48(%r12),%xmm10 | 2200 movdqu 48(%r12),%xmm10 |
2201 cmpq $64,%r14 | 2201 cmpq $64,%r14 |
2202 je .Lxts_dec_4 | 2202 je .Lxts_dec_4 |
2203 pxor %xmm9,%xmm1 | 2203 pxor %xmm9,%xmm1 |
2204 » pshufd» $19,%xmm14,%xmm13 | 2204 » pshufd» $0x13,%xmm14,%xmm13 |
2205 pxor %xmm14,%xmm14 | 2205 pxor %xmm14,%xmm14 |
2206 movdqa %xmm6,%xmm4 | 2206 movdqa %xmm6,%xmm4 |
2207 movdqa %xmm6,80(%rsp) | 2207 movdqa %xmm6,80(%rsp) |
2208 paddq %xmm6,%xmm6 | 2208 paddq %xmm6,%xmm6 |
2209 pand %xmm12,%xmm13 | 2209 pand %xmm12,%xmm13 |
2210 pcmpgtd %xmm6,%xmm14 | 2210 pcmpgtd %xmm6,%xmm14 |
2211 pxor %xmm13,%xmm6 | 2211 pxor %xmm13,%xmm6 |
2212 movdqu 64(%r12),%xmm11 | 2212 movdqu 64(%r12),%xmm11 |
2213 cmpq $80,%r14 | 2213 cmpq $80,%r14 |
2214 je .Lxts_dec_5 | 2214 je .Lxts_dec_5 |
2215 pxor %xmm10,%xmm2 | 2215 pxor %xmm10,%xmm2 |
2216 » pshufd» $19,%xmm14,%xmm13 | 2216 » pshufd» $0x13,%xmm14,%xmm13 |
2217 pxor %xmm14,%xmm14 | 2217 pxor %xmm14,%xmm14 |
2218 movdqa %xmm6,%xmm5 | 2218 movdqa %xmm6,%xmm5 |
2219 movdqa %xmm6,96(%rsp) | 2219 movdqa %xmm6,96(%rsp) |
2220 paddq %xmm6,%xmm6 | 2220 paddq %xmm6,%xmm6 |
2221 pand %xmm12,%xmm13 | 2221 pand %xmm12,%xmm13 |
2222 pcmpgtd %xmm6,%xmm14 | 2222 pcmpgtd %xmm6,%xmm14 |
2223 pxor %xmm13,%xmm6 | 2223 pxor %xmm13,%xmm6 |
2224 movdqu 80(%r12),%xmm12 | 2224 movdqu 80(%r12),%xmm12 |
2225 cmpq $96,%r14 | 2225 cmpq $96,%r14 |
2226 je .Lxts_dec_6 | 2226 je .Lxts_dec_6 |
(...skipping 156 matching lines...) Expand 10 before | Expand all | Expand 10 after Loading... |
2383 | 2383 |
2384 movdqa 16(%rsp),%xmm6 | 2384 movdqa 16(%rsp),%xmm6 |
2385 | 2385 |
2386 .Lxts_dec_done: | 2386 .Lxts_dec_done: |
2387 andl $15,%ebx | 2387 andl $15,%ebx |
2388 jz .Lxts_dec_ret | 2388 jz .Lxts_dec_ret |
2389 | 2389 |
2390 pxor %xmm14,%xmm14 | 2390 pxor %xmm14,%xmm14 |
2391 movdqa .Lxts_magic(%rip),%xmm12 | 2391 movdqa .Lxts_magic(%rip),%xmm12 |
2392 pcmpgtd %xmm6,%xmm14 | 2392 pcmpgtd %xmm6,%xmm14 |
2393 » pshufd» $19,%xmm14,%xmm13 | 2393 » pshufd» $0x13,%xmm14,%xmm13 |
2394 movdqa %xmm6,%xmm5 | 2394 movdqa %xmm6,%xmm5 |
2395 paddq %xmm6,%xmm6 | 2395 paddq %xmm6,%xmm6 |
2396 pand %xmm12,%xmm13 | 2396 pand %xmm12,%xmm13 |
2397 movdqu (%r12),%xmm15 | 2397 movdqu (%r12),%xmm15 |
2398 pxor %xmm13,%xmm6 | 2398 pxor %xmm13,%xmm6 |
2399 | 2399 |
2400 leaq 32(%rbp),%rdi | 2400 leaq 32(%rbp),%rdi |
2401 pxor %xmm6,%xmm15 | 2401 pxor %xmm6,%xmm15 |
2402 leaq 32(%rbp),%rsi | 2402 leaq 32(%rbp),%rsi |
2403 movdqa %xmm15,32(%rbp) | 2403 movdqa %xmm15,32(%rbp) |
(...skipping 94 matching lines...) Expand 10 before | Expand all | Expand 10 after Loading... |
2498 .quad 0x0404040404040404, 0x0404040404040404 | 2498 .quad 0x0404040404040404, 0x0404040404040404 |
2499 .quad 0x0808080808080808, 0x0808080808080808 | 2499 .quad 0x0808080808080808, 0x0808080808080808 |
2500 .LM0: | 2500 .LM0: |
2501 .quad 0x02060a0e03070b0f, 0x0004080c0105090d | 2501 .quad 0x02060a0e03070b0f, 0x0004080c0105090d |
2502 .L63: | 2502 .L63: |
2503 .quad 0x6363636363636363, 0x6363636363636363 | 2503 .quad 0x6363636363636363, 0x6363636363636363 |
2504 .byte 66,105,116,45,115,108,105,99,101,100,32,65,69,83,32,102,111,114,32,120,5
6,54,95,54,52,47,83,83,83,69,51,44,32,69,109,105,108,105,97,32,75,195,164,115,11
2,101,114,44,32,80,101,116,101,114,32,83,99,104,119,97,98,101,44,32,65,110,100,1
21,32,80,111,108,121,97,107,111,118,0 | 2504 .byte 66,105,116,45,115,108,105,99,101,100,32,65,69,83,32,102,111,114,32,120,5
6,54,95,54,52,47,83,83,83,69,51,44,32,69,109,105,108,105,97,32,75,195,164,115,11
2,101,114,44,32,80,101,116,101,114,32,83,99,104,119,97,98,101,44,32,65,110,100,1
21,32,80,111,108,121,97,107,111,118,0 |
2505 .align 64 | 2505 .align 64 |
2506 .size _bsaes_const,.-_bsaes_const | 2506 .size _bsaes_const,.-_bsaes_const |
2507 #endif | 2507 #endif |
OLD | NEW |