OLD | NEW |
1 #if defined(__x86_64__) | 1 #if defined(__x86_64__) |
2 .text | 2 .text |
3 | 3 |
4 | 4 |
5 | 5 |
6 | 6 |
7 | 7 |
8 .p2align 6 | 8 .p2align 6 |
9 _bsaes_encrypt8: | 9 _bsaes_encrypt8: |
10 leaq L$BS0(%rip),%r11 | 10 leaq L$BS0(%rip),%r11 |
(...skipping 307 matching lines...) Expand 10 before | Expand all | Expand 10 after Loading... |
318 | 318 |
319 pxor %xmm4,%xmm0 | 319 pxor %xmm4,%xmm0 |
320 pxor %xmm1,%xmm4 | 320 pxor %xmm1,%xmm4 |
321 pxor %xmm2,%xmm1 | 321 pxor %xmm2,%xmm1 |
322 pxor %xmm4,%xmm2 | 322 pxor %xmm4,%xmm2 |
323 pxor %xmm4,%xmm3 | 323 pxor %xmm4,%xmm3 |
324 | 324 |
325 pxor %xmm2,%xmm5 | 325 pxor %xmm2,%xmm5 |
326 decl %r10d | 326 decl %r10d |
327 jl L$enc_done | 327 jl L$enc_done |
328 » pshufd» $147,%xmm15,%xmm7 | 328 » pshufd» $0x93,%xmm15,%xmm7 |
329 » pshufd» $147,%xmm0,%xmm8 | 329 » pshufd» $0x93,%xmm0,%xmm8 |
330 pxor %xmm7,%xmm15 | 330 pxor %xmm7,%xmm15 |
331 » pshufd» $147,%xmm3,%xmm9 | 331 » pshufd» $0x93,%xmm3,%xmm9 |
332 pxor %xmm8,%xmm0 | 332 pxor %xmm8,%xmm0 |
333 » pshufd» $147,%xmm5,%xmm10 | 333 » pshufd» $0x93,%xmm5,%xmm10 |
334 pxor %xmm9,%xmm3 | 334 pxor %xmm9,%xmm3 |
335 » pshufd» $147,%xmm2,%xmm11 | 335 » pshufd» $0x93,%xmm2,%xmm11 |
336 pxor %xmm10,%xmm5 | 336 pxor %xmm10,%xmm5 |
337 » pshufd» $147,%xmm6,%xmm12 | 337 » pshufd» $0x93,%xmm6,%xmm12 |
338 pxor %xmm11,%xmm2 | 338 pxor %xmm11,%xmm2 |
339 » pshufd» $147,%xmm1,%xmm13 | 339 » pshufd» $0x93,%xmm1,%xmm13 |
340 pxor %xmm12,%xmm6 | 340 pxor %xmm12,%xmm6 |
341 » pshufd» $147,%xmm4,%xmm14 | 341 » pshufd» $0x93,%xmm4,%xmm14 |
342 pxor %xmm13,%xmm1 | 342 pxor %xmm13,%xmm1 |
343 pxor %xmm14,%xmm4 | 343 pxor %xmm14,%xmm4 |
344 | 344 |
345 pxor %xmm15,%xmm8 | 345 pxor %xmm15,%xmm8 |
346 pxor %xmm4,%xmm7 | 346 pxor %xmm4,%xmm7 |
347 pxor %xmm4,%xmm8 | 347 pxor %xmm4,%xmm8 |
348 » pshufd» $78,%xmm15,%xmm15 | 348 » pshufd» $0x4E,%xmm15,%xmm15 |
349 pxor %xmm0,%xmm9 | 349 pxor %xmm0,%xmm9 |
350 » pshufd» $78,%xmm0,%xmm0 | 350 » pshufd» $0x4E,%xmm0,%xmm0 |
351 pxor %xmm2,%xmm12 | 351 pxor %xmm2,%xmm12 |
352 pxor %xmm7,%xmm15 | 352 pxor %xmm7,%xmm15 |
353 pxor %xmm6,%xmm13 | 353 pxor %xmm6,%xmm13 |
354 pxor %xmm8,%xmm0 | 354 pxor %xmm8,%xmm0 |
355 pxor %xmm5,%xmm11 | 355 pxor %xmm5,%xmm11 |
356 » pshufd» $78,%xmm2,%xmm7 | 356 » pshufd» $0x4E,%xmm2,%xmm7 |
357 pxor %xmm1,%xmm14 | 357 pxor %xmm1,%xmm14 |
358 » pshufd» $78,%xmm6,%xmm8 | 358 » pshufd» $0x4E,%xmm6,%xmm8 |
359 pxor %xmm3,%xmm10 | 359 pxor %xmm3,%xmm10 |
360 » pshufd» $78,%xmm5,%xmm2 | 360 » pshufd» $0x4E,%xmm5,%xmm2 |
361 pxor %xmm4,%xmm10 | 361 pxor %xmm4,%xmm10 |
362 » pshufd» $78,%xmm4,%xmm6 | 362 » pshufd» $0x4E,%xmm4,%xmm6 |
363 pxor %xmm4,%xmm11 | 363 pxor %xmm4,%xmm11 |
364 » pshufd» $78,%xmm1,%xmm5 | 364 » pshufd» $0x4E,%xmm1,%xmm5 |
365 pxor %xmm11,%xmm7 | 365 pxor %xmm11,%xmm7 |
366 » pshufd» $78,%xmm3,%xmm1 | 366 » pshufd» $0x4E,%xmm3,%xmm1 |
367 pxor %xmm12,%xmm8 | 367 pxor %xmm12,%xmm8 |
368 pxor %xmm10,%xmm2 | 368 pxor %xmm10,%xmm2 |
369 pxor %xmm14,%xmm6 | 369 pxor %xmm14,%xmm6 |
370 pxor %xmm13,%xmm5 | 370 pxor %xmm13,%xmm5 |
371 movdqa %xmm7,%xmm3 | 371 movdqa %xmm7,%xmm3 |
372 pxor %xmm9,%xmm1 | 372 pxor %xmm9,%xmm1 |
373 movdqa %xmm8,%xmm4 | 373 movdqa %xmm8,%xmm4 |
374 movdqa 48(%r11),%xmm7 | 374 movdqa 48(%r11),%xmm7 |
375 jnz L$enc_loop | 375 jnz L$enc_loop |
376 movdqa 64(%r11),%xmm7 | 376 movdqa 64(%r11),%xmm7 |
(...skipping 413 matching lines...) Expand 10 before | Expand all | Expand 10 after Loading... |
790 pxor %xmm4,%xmm3 | 790 pxor %xmm4,%xmm3 |
791 pxor %xmm5,%xmm2 | 791 pxor %xmm5,%xmm2 |
792 pxor %xmm0,%xmm5 | 792 pxor %xmm0,%xmm5 |
793 pxor %xmm3,%xmm2 | 793 pxor %xmm3,%xmm2 |
794 | 794 |
795 pxor %xmm15,%xmm3 | 795 pxor %xmm15,%xmm3 |
796 pxor %xmm2,%xmm6 | 796 pxor %xmm2,%xmm6 |
797 decl %r10d | 797 decl %r10d |
798 jl L$dec_done | 798 jl L$dec_done |
799 | 799 |
800 » pshufd» $78,%xmm15,%xmm7 | 800 » pshufd» $0x4E,%xmm15,%xmm7 |
801 » pshufd» $78,%xmm2,%xmm13 | 801 » pshufd» $0x4E,%xmm2,%xmm13 |
802 pxor %xmm15,%xmm7 | 802 pxor %xmm15,%xmm7 |
803 » pshufd» $78,%xmm4,%xmm14 | 803 » pshufd» $0x4E,%xmm4,%xmm14 |
804 pxor %xmm2,%xmm13 | 804 pxor %xmm2,%xmm13 |
805 » pshufd» $78,%xmm0,%xmm8 | 805 » pshufd» $0x4E,%xmm0,%xmm8 |
806 pxor %xmm4,%xmm14 | 806 pxor %xmm4,%xmm14 |
807 » pshufd» $78,%xmm5,%xmm9 | 807 » pshufd» $0x4E,%xmm5,%xmm9 |
808 pxor %xmm0,%xmm8 | 808 pxor %xmm0,%xmm8 |
809 » pshufd» $78,%xmm3,%xmm10 | 809 » pshufd» $0x4E,%xmm3,%xmm10 |
810 pxor %xmm5,%xmm9 | 810 pxor %xmm5,%xmm9 |
811 pxor %xmm13,%xmm15 | 811 pxor %xmm13,%xmm15 |
812 pxor %xmm13,%xmm0 | 812 pxor %xmm13,%xmm0 |
813 » pshufd» $78,%xmm1,%xmm11 | 813 » pshufd» $0x4E,%xmm1,%xmm11 |
814 pxor %xmm3,%xmm10 | 814 pxor %xmm3,%xmm10 |
815 pxor %xmm7,%xmm5 | 815 pxor %xmm7,%xmm5 |
816 pxor %xmm8,%xmm3 | 816 pxor %xmm8,%xmm3 |
817 » pshufd» $78,%xmm6,%xmm12 | 817 » pshufd» $0x4E,%xmm6,%xmm12 |
818 pxor %xmm1,%xmm11 | 818 pxor %xmm1,%xmm11 |
819 pxor %xmm14,%xmm0 | 819 pxor %xmm14,%xmm0 |
820 pxor %xmm9,%xmm1 | 820 pxor %xmm9,%xmm1 |
821 pxor %xmm6,%xmm12 | 821 pxor %xmm6,%xmm12 |
822 | 822 |
823 pxor %xmm14,%xmm5 | 823 pxor %xmm14,%xmm5 |
824 pxor %xmm13,%xmm3 | 824 pxor %xmm13,%xmm3 |
825 pxor %xmm13,%xmm1 | 825 pxor %xmm13,%xmm1 |
826 pxor %xmm10,%xmm6 | 826 pxor %xmm10,%xmm6 |
827 pxor %xmm11,%xmm2 | 827 pxor %xmm11,%xmm2 |
828 pxor %xmm14,%xmm1 | 828 pxor %xmm14,%xmm1 |
829 pxor %xmm14,%xmm6 | 829 pxor %xmm14,%xmm6 |
830 pxor %xmm12,%xmm4 | 830 pxor %xmm12,%xmm4 |
831 » pshufd» $147,%xmm15,%xmm7 | 831 » pshufd» $0x93,%xmm15,%xmm7 |
832 » pshufd» $147,%xmm0,%xmm8 | 832 » pshufd» $0x93,%xmm0,%xmm8 |
833 pxor %xmm7,%xmm15 | 833 pxor %xmm7,%xmm15 |
834 » pshufd» $147,%xmm5,%xmm9 | 834 » pshufd» $0x93,%xmm5,%xmm9 |
835 pxor %xmm8,%xmm0 | 835 pxor %xmm8,%xmm0 |
836 » pshufd» $147,%xmm3,%xmm10 | 836 » pshufd» $0x93,%xmm3,%xmm10 |
837 pxor %xmm9,%xmm5 | 837 pxor %xmm9,%xmm5 |
838 » pshufd» $147,%xmm1,%xmm11 | 838 » pshufd» $0x93,%xmm1,%xmm11 |
839 pxor %xmm10,%xmm3 | 839 pxor %xmm10,%xmm3 |
840 » pshufd» $147,%xmm6,%xmm12 | 840 » pshufd» $0x93,%xmm6,%xmm12 |
841 pxor %xmm11,%xmm1 | 841 pxor %xmm11,%xmm1 |
842 » pshufd» $147,%xmm2,%xmm13 | 842 » pshufd» $0x93,%xmm2,%xmm13 |
843 pxor %xmm12,%xmm6 | 843 pxor %xmm12,%xmm6 |
844 » pshufd» $147,%xmm4,%xmm14 | 844 » pshufd» $0x93,%xmm4,%xmm14 |
845 pxor %xmm13,%xmm2 | 845 pxor %xmm13,%xmm2 |
846 pxor %xmm14,%xmm4 | 846 pxor %xmm14,%xmm4 |
847 | 847 |
848 pxor %xmm15,%xmm8 | 848 pxor %xmm15,%xmm8 |
849 pxor %xmm4,%xmm7 | 849 pxor %xmm4,%xmm7 |
850 pxor %xmm4,%xmm8 | 850 pxor %xmm4,%xmm8 |
851 » pshufd» $78,%xmm15,%xmm15 | 851 » pshufd» $0x4E,%xmm15,%xmm15 |
852 pxor %xmm0,%xmm9 | 852 pxor %xmm0,%xmm9 |
853 » pshufd» $78,%xmm0,%xmm0 | 853 » pshufd» $0x4E,%xmm0,%xmm0 |
854 pxor %xmm1,%xmm12 | 854 pxor %xmm1,%xmm12 |
855 pxor %xmm7,%xmm15 | 855 pxor %xmm7,%xmm15 |
856 pxor %xmm6,%xmm13 | 856 pxor %xmm6,%xmm13 |
857 pxor %xmm8,%xmm0 | 857 pxor %xmm8,%xmm0 |
858 pxor %xmm3,%xmm11 | 858 pxor %xmm3,%xmm11 |
859 » pshufd» $78,%xmm1,%xmm7 | 859 » pshufd» $0x4E,%xmm1,%xmm7 |
860 pxor %xmm2,%xmm14 | 860 pxor %xmm2,%xmm14 |
861 » pshufd» $78,%xmm6,%xmm8 | 861 » pshufd» $0x4E,%xmm6,%xmm8 |
862 pxor %xmm5,%xmm10 | 862 pxor %xmm5,%xmm10 |
863 » pshufd» $78,%xmm3,%xmm1 | 863 » pshufd» $0x4E,%xmm3,%xmm1 |
864 pxor %xmm4,%xmm10 | 864 pxor %xmm4,%xmm10 |
865 » pshufd» $78,%xmm4,%xmm6 | 865 » pshufd» $0x4E,%xmm4,%xmm6 |
866 pxor %xmm4,%xmm11 | 866 pxor %xmm4,%xmm11 |
867 » pshufd» $78,%xmm2,%xmm3 | 867 » pshufd» $0x4E,%xmm2,%xmm3 |
868 pxor %xmm11,%xmm7 | 868 pxor %xmm11,%xmm7 |
869 » pshufd» $78,%xmm5,%xmm2 | 869 » pshufd» $0x4E,%xmm5,%xmm2 |
870 pxor %xmm12,%xmm8 | 870 pxor %xmm12,%xmm8 |
871 pxor %xmm1,%xmm10 | 871 pxor %xmm1,%xmm10 |
872 pxor %xmm14,%xmm6 | 872 pxor %xmm14,%xmm6 |
873 pxor %xmm3,%xmm13 | 873 pxor %xmm3,%xmm13 |
874 movdqa %xmm7,%xmm3 | 874 movdqa %xmm7,%xmm3 |
875 pxor %xmm9,%xmm2 | 875 pxor %xmm9,%xmm2 |
876 movdqa %xmm13,%xmm5 | 876 movdqa %xmm13,%xmm5 |
877 movdqa %xmm8,%xmm4 | 877 movdqa %xmm8,%xmm4 |
878 movdqa %xmm2,%xmm1 | 878 movdqa %xmm2,%xmm1 |
879 movdqa %xmm10,%xmm2 | 879 movdqa %xmm10,%xmm2 |
(...skipping 669 matching lines...) Expand 10 before | Expand all | Expand 10 after Loading... |
1549 subq %rax,%rsp | 1549 subq %rax,%rsp |
1550 | 1550 |
1551 movq %rsp,%rax | 1551 movq %rsp,%rax |
1552 movq %r15,%rcx | 1552 movq %r15,%rcx |
1553 movl %edx,%r10d | 1553 movl %edx,%r10d |
1554 call _bsaes_key_convert | 1554 call _bsaes_key_convert |
1555 pxor %xmm6,%xmm7 | 1555 pxor %xmm6,%xmm7 |
1556 movdqa %xmm7,(%rax) | 1556 movdqa %xmm7,(%rax) |
1557 | 1557 |
1558 andq $-16,%r14 | 1558 andq $-16,%r14 |
1559 » subq» $128,%rsp | 1559 » subq» $0x80,%rsp |
1560 movdqa 32(%rbp),%xmm6 | 1560 movdqa 32(%rbp),%xmm6 |
1561 | 1561 |
1562 pxor %xmm14,%xmm14 | 1562 pxor %xmm14,%xmm14 |
1563 movdqa L$xts_magic(%rip),%xmm12 | 1563 movdqa L$xts_magic(%rip),%xmm12 |
1564 pcmpgtd %xmm6,%xmm14 | 1564 pcmpgtd %xmm6,%xmm14 |
1565 | 1565 |
1566 » subq» $128,%r14 | 1566 » subq» $0x80,%r14 |
1567 jc L$xts_enc_short | 1567 jc L$xts_enc_short |
1568 jmp L$xts_enc_loop | 1568 jmp L$xts_enc_loop |
1569 | 1569 |
1570 .p2align 4 | 1570 .p2align 4 |
1571 L$xts_enc_loop: | 1571 L$xts_enc_loop: |
1572 » pshufd» $19,%xmm14,%xmm13 | 1572 » pshufd» $0x13,%xmm14,%xmm13 |
1573 pxor %xmm14,%xmm14 | 1573 pxor %xmm14,%xmm14 |
1574 movdqa %xmm6,%xmm15 | 1574 movdqa %xmm6,%xmm15 |
1575 movdqa %xmm6,0(%rsp) | 1575 movdqa %xmm6,0(%rsp) |
1576 paddq %xmm6,%xmm6 | 1576 paddq %xmm6,%xmm6 |
1577 pand %xmm12,%xmm13 | 1577 pand %xmm12,%xmm13 |
1578 pcmpgtd %xmm6,%xmm14 | 1578 pcmpgtd %xmm6,%xmm14 |
1579 pxor %xmm13,%xmm6 | 1579 pxor %xmm13,%xmm6 |
1580 » pshufd» $19,%xmm14,%xmm13 | 1580 » pshufd» $0x13,%xmm14,%xmm13 |
1581 pxor %xmm14,%xmm14 | 1581 pxor %xmm14,%xmm14 |
1582 movdqa %xmm6,%xmm0 | 1582 movdqa %xmm6,%xmm0 |
1583 movdqa %xmm6,16(%rsp) | 1583 movdqa %xmm6,16(%rsp) |
1584 paddq %xmm6,%xmm6 | 1584 paddq %xmm6,%xmm6 |
1585 pand %xmm12,%xmm13 | 1585 pand %xmm12,%xmm13 |
1586 pcmpgtd %xmm6,%xmm14 | 1586 pcmpgtd %xmm6,%xmm14 |
1587 pxor %xmm13,%xmm6 | 1587 pxor %xmm13,%xmm6 |
1588 movdqu 0(%r12),%xmm7 | 1588 movdqu 0(%r12),%xmm7 |
1589 » pshufd» $19,%xmm14,%xmm13 | 1589 » pshufd» $0x13,%xmm14,%xmm13 |
1590 pxor %xmm14,%xmm14 | 1590 pxor %xmm14,%xmm14 |
1591 movdqa %xmm6,%xmm1 | 1591 movdqa %xmm6,%xmm1 |
1592 movdqa %xmm6,32(%rsp) | 1592 movdqa %xmm6,32(%rsp) |
1593 paddq %xmm6,%xmm6 | 1593 paddq %xmm6,%xmm6 |
1594 pand %xmm12,%xmm13 | 1594 pand %xmm12,%xmm13 |
1595 pcmpgtd %xmm6,%xmm14 | 1595 pcmpgtd %xmm6,%xmm14 |
1596 pxor %xmm13,%xmm6 | 1596 pxor %xmm13,%xmm6 |
1597 movdqu 16(%r12),%xmm8 | 1597 movdqu 16(%r12),%xmm8 |
1598 pxor %xmm7,%xmm15 | 1598 pxor %xmm7,%xmm15 |
1599 » pshufd» $19,%xmm14,%xmm13 | 1599 » pshufd» $0x13,%xmm14,%xmm13 |
1600 pxor %xmm14,%xmm14 | 1600 pxor %xmm14,%xmm14 |
1601 movdqa %xmm6,%xmm2 | 1601 movdqa %xmm6,%xmm2 |
1602 movdqa %xmm6,48(%rsp) | 1602 movdqa %xmm6,48(%rsp) |
1603 paddq %xmm6,%xmm6 | 1603 paddq %xmm6,%xmm6 |
1604 pand %xmm12,%xmm13 | 1604 pand %xmm12,%xmm13 |
1605 pcmpgtd %xmm6,%xmm14 | 1605 pcmpgtd %xmm6,%xmm14 |
1606 pxor %xmm13,%xmm6 | 1606 pxor %xmm13,%xmm6 |
1607 movdqu 32(%r12),%xmm9 | 1607 movdqu 32(%r12),%xmm9 |
1608 pxor %xmm8,%xmm0 | 1608 pxor %xmm8,%xmm0 |
1609 » pshufd» $19,%xmm14,%xmm13 | 1609 » pshufd» $0x13,%xmm14,%xmm13 |
1610 pxor %xmm14,%xmm14 | 1610 pxor %xmm14,%xmm14 |
1611 movdqa %xmm6,%xmm3 | 1611 movdqa %xmm6,%xmm3 |
1612 movdqa %xmm6,64(%rsp) | 1612 movdqa %xmm6,64(%rsp) |
1613 paddq %xmm6,%xmm6 | 1613 paddq %xmm6,%xmm6 |
1614 pand %xmm12,%xmm13 | 1614 pand %xmm12,%xmm13 |
1615 pcmpgtd %xmm6,%xmm14 | 1615 pcmpgtd %xmm6,%xmm14 |
1616 pxor %xmm13,%xmm6 | 1616 pxor %xmm13,%xmm6 |
1617 movdqu 48(%r12),%xmm10 | 1617 movdqu 48(%r12),%xmm10 |
1618 pxor %xmm9,%xmm1 | 1618 pxor %xmm9,%xmm1 |
1619 » pshufd» $19,%xmm14,%xmm13 | 1619 » pshufd» $0x13,%xmm14,%xmm13 |
1620 pxor %xmm14,%xmm14 | 1620 pxor %xmm14,%xmm14 |
1621 movdqa %xmm6,%xmm4 | 1621 movdqa %xmm6,%xmm4 |
1622 movdqa %xmm6,80(%rsp) | 1622 movdqa %xmm6,80(%rsp) |
1623 paddq %xmm6,%xmm6 | 1623 paddq %xmm6,%xmm6 |
1624 pand %xmm12,%xmm13 | 1624 pand %xmm12,%xmm13 |
1625 pcmpgtd %xmm6,%xmm14 | 1625 pcmpgtd %xmm6,%xmm14 |
1626 pxor %xmm13,%xmm6 | 1626 pxor %xmm13,%xmm6 |
1627 movdqu 64(%r12),%xmm11 | 1627 movdqu 64(%r12),%xmm11 |
1628 pxor %xmm10,%xmm2 | 1628 pxor %xmm10,%xmm2 |
1629 » pshufd» $19,%xmm14,%xmm13 | 1629 » pshufd» $0x13,%xmm14,%xmm13 |
1630 pxor %xmm14,%xmm14 | 1630 pxor %xmm14,%xmm14 |
1631 movdqa %xmm6,%xmm5 | 1631 movdqa %xmm6,%xmm5 |
1632 movdqa %xmm6,96(%rsp) | 1632 movdqa %xmm6,96(%rsp) |
1633 paddq %xmm6,%xmm6 | 1633 paddq %xmm6,%xmm6 |
1634 pand %xmm12,%xmm13 | 1634 pand %xmm12,%xmm13 |
1635 pcmpgtd %xmm6,%xmm14 | 1635 pcmpgtd %xmm6,%xmm14 |
1636 pxor %xmm13,%xmm6 | 1636 pxor %xmm13,%xmm6 |
1637 movdqu 80(%r12),%xmm12 | 1637 movdqu 80(%r12),%xmm12 |
1638 pxor %xmm11,%xmm3 | 1638 pxor %xmm11,%xmm3 |
1639 movdqu 96(%r12),%xmm13 | 1639 movdqu 96(%r12),%xmm13 |
(...skipping 23 matching lines...) Expand all Loading... |
1663 movdqu %xmm6,80(%r13) | 1663 movdqu %xmm6,80(%r13) |
1664 pxor 112(%rsp),%xmm4 | 1664 pxor 112(%rsp),%xmm4 |
1665 movdqu %xmm1,96(%r13) | 1665 movdqu %xmm1,96(%r13) |
1666 movdqu %xmm4,112(%r13) | 1666 movdqu %xmm4,112(%r13) |
1667 leaq 128(%r13),%r13 | 1667 leaq 128(%r13),%r13 |
1668 | 1668 |
1669 movdqa 112(%rsp),%xmm6 | 1669 movdqa 112(%rsp),%xmm6 |
1670 pxor %xmm14,%xmm14 | 1670 pxor %xmm14,%xmm14 |
1671 movdqa L$xts_magic(%rip),%xmm12 | 1671 movdqa L$xts_magic(%rip),%xmm12 |
1672 pcmpgtd %xmm6,%xmm14 | 1672 pcmpgtd %xmm6,%xmm14 |
1673 » pshufd» $19,%xmm14,%xmm13 | 1673 » pshufd» $0x13,%xmm14,%xmm13 |
1674 pxor %xmm14,%xmm14 | 1674 pxor %xmm14,%xmm14 |
1675 paddq %xmm6,%xmm6 | 1675 paddq %xmm6,%xmm6 |
1676 pand %xmm12,%xmm13 | 1676 pand %xmm12,%xmm13 |
1677 pcmpgtd %xmm6,%xmm14 | 1677 pcmpgtd %xmm6,%xmm14 |
1678 pxor %xmm13,%xmm6 | 1678 pxor %xmm13,%xmm6 |
1679 | 1679 |
1680 » subq» $128,%r14 | 1680 » subq» $0x80,%r14 |
1681 jnc L$xts_enc_loop | 1681 jnc L$xts_enc_loop |
1682 | 1682 |
1683 L$xts_enc_short: | 1683 L$xts_enc_short: |
1684 » addq» $128,%r14 | 1684 » addq» $0x80,%r14 |
1685 jz L$xts_enc_done | 1685 jz L$xts_enc_done |
1686 » pshufd» $19,%xmm14,%xmm13 | 1686 » pshufd» $0x13,%xmm14,%xmm13 |
1687 pxor %xmm14,%xmm14 | 1687 pxor %xmm14,%xmm14 |
1688 movdqa %xmm6,%xmm15 | 1688 movdqa %xmm6,%xmm15 |
1689 movdqa %xmm6,0(%rsp) | 1689 movdqa %xmm6,0(%rsp) |
1690 paddq %xmm6,%xmm6 | 1690 paddq %xmm6,%xmm6 |
1691 pand %xmm12,%xmm13 | 1691 pand %xmm12,%xmm13 |
1692 pcmpgtd %xmm6,%xmm14 | 1692 pcmpgtd %xmm6,%xmm14 |
1693 pxor %xmm13,%xmm6 | 1693 pxor %xmm13,%xmm6 |
1694 » pshufd» $19,%xmm14,%xmm13 | 1694 » pshufd» $0x13,%xmm14,%xmm13 |
1695 pxor %xmm14,%xmm14 | 1695 pxor %xmm14,%xmm14 |
1696 movdqa %xmm6,%xmm0 | 1696 movdqa %xmm6,%xmm0 |
1697 movdqa %xmm6,16(%rsp) | 1697 movdqa %xmm6,16(%rsp) |
1698 paddq %xmm6,%xmm6 | 1698 paddq %xmm6,%xmm6 |
1699 pand %xmm12,%xmm13 | 1699 pand %xmm12,%xmm13 |
1700 pcmpgtd %xmm6,%xmm14 | 1700 pcmpgtd %xmm6,%xmm14 |
1701 pxor %xmm13,%xmm6 | 1701 pxor %xmm13,%xmm6 |
1702 movdqu 0(%r12),%xmm7 | 1702 movdqu 0(%r12),%xmm7 |
1703 cmpq $16,%r14 | 1703 cmpq $16,%r14 |
1704 je L$xts_enc_1 | 1704 je L$xts_enc_1 |
1705 » pshufd» $19,%xmm14,%xmm13 | 1705 » pshufd» $0x13,%xmm14,%xmm13 |
1706 pxor %xmm14,%xmm14 | 1706 pxor %xmm14,%xmm14 |
1707 movdqa %xmm6,%xmm1 | 1707 movdqa %xmm6,%xmm1 |
1708 movdqa %xmm6,32(%rsp) | 1708 movdqa %xmm6,32(%rsp) |
1709 paddq %xmm6,%xmm6 | 1709 paddq %xmm6,%xmm6 |
1710 pand %xmm12,%xmm13 | 1710 pand %xmm12,%xmm13 |
1711 pcmpgtd %xmm6,%xmm14 | 1711 pcmpgtd %xmm6,%xmm14 |
1712 pxor %xmm13,%xmm6 | 1712 pxor %xmm13,%xmm6 |
1713 movdqu 16(%r12),%xmm8 | 1713 movdqu 16(%r12),%xmm8 |
1714 cmpq $32,%r14 | 1714 cmpq $32,%r14 |
1715 je L$xts_enc_2 | 1715 je L$xts_enc_2 |
1716 pxor %xmm7,%xmm15 | 1716 pxor %xmm7,%xmm15 |
1717 » pshufd» $19,%xmm14,%xmm13 | 1717 » pshufd» $0x13,%xmm14,%xmm13 |
1718 pxor %xmm14,%xmm14 | 1718 pxor %xmm14,%xmm14 |
1719 movdqa %xmm6,%xmm2 | 1719 movdqa %xmm6,%xmm2 |
1720 movdqa %xmm6,48(%rsp) | 1720 movdqa %xmm6,48(%rsp) |
1721 paddq %xmm6,%xmm6 | 1721 paddq %xmm6,%xmm6 |
1722 pand %xmm12,%xmm13 | 1722 pand %xmm12,%xmm13 |
1723 pcmpgtd %xmm6,%xmm14 | 1723 pcmpgtd %xmm6,%xmm14 |
1724 pxor %xmm13,%xmm6 | 1724 pxor %xmm13,%xmm6 |
1725 movdqu 32(%r12),%xmm9 | 1725 movdqu 32(%r12),%xmm9 |
1726 cmpq $48,%r14 | 1726 cmpq $48,%r14 |
1727 je L$xts_enc_3 | 1727 je L$xts_enc_3 |
1728 pxor %xmm8,%xmm0 | 1728 pxor %xmm8,%xmm0 |
1729 » pshufd» $19,%xmm14,%xmm13 | 1729 » pshufd» $0x13,%xmm14,%xmm13 |
1730 pxor %xmm14,%xmm14 | 1730 pxor %xmm14,%xmm14 |
1731 movdqa %xmm6,%xmm3 | 1731 movdqa %xmm6,%xmm3 |
1732 movdqa %xmm6,64(%rsp) | 1732 movdqa %xmm6,64(%rsp) |
1733 paddq %xmm6,%xmm6 | 1733 paddq %xmm6,%xmm6 |
1734 pand %xmm12,%xmm13 | 1734 pand %xmm12,%xmm13 |
1735 pcmpgtd %xmm6,%xmm14 | 1735 pcmpgtd %xmm6,%xmm14 |
1736 pxor %xmm13,%xmm6 | 1736 pxor %xmm13,%xmm6 |
1737 movdqu 48(%r12),%xmm10 | 1737 movdqu 48(%r12),%xmm10 |
1738 cmpq $64,%r14 | 1738 cmpq $64,%r14 |
1739 je L$xts_enc_4 | 1739 je L$xts_enc_4 |
1740 pxor %xmm9,%xmm1 | 1740 pxor %xmm9,%xmm1 |
1741 » pshufd» $19,%xmm14,%xmm13 | 1741 » pshufd» $0x13,%xmm14,%xmm13 |
1742 pxor %xmm14,%xmm14 | 1742 pxor %xmm14,%xmm14 |
1743 movdqa %xmm6,%xmm4 | 1743 movdqa %xmm6,%xmm4 |
1744 movdqa %xmm6,80(%rsp) | 1744 movdqa %xmm6,80(%rsp) |
1745 paddq %xmm6,%xmm6 | 1745 paddq %xmm6,%xmm6 |
1746 pand %xmm12,%xmm13 | 1746 pand %xmm12,%xmm13 |
1747 pcmpgtd %xmm6,%xmm14 | 1747 pcmpgtd %xmm6,%xmm14 |
1748 pxor %xmm13,%xmm6 | 1748 pxor %xmm13,%xmm6 |
1749 movdqu 64(%r12),%xmm11 | 1749 movdqu 64(%r12),%xmm11 |
1750 cmpq $80,%r14 | 1750 cmpq $80,%r14 |
1751 je L$xts_enc_5 | 1751 je L$xts_enc_5 |
1752 pxor %xmm10,%xmm2 | 1752 pxor %xmm10,%xmm2 |
1753 » pshufd» $19,%xmm14,%xmm13 | 1753 » pshufd» $0x13,%xmm14,%xmm13 |
1754 pxor %xmm14,%xmm14 | 1754 pxor %xmm14,%xmm14 |
1755 movdqa %xmm6,%xmm5 | 1755 movdqa %xmm6,%xmm5 |
1756 movdqa %xmm6,96(%rsp) | 1756 movdqa %xmm6,96(%rsp) |
1757 paddq %xmm6,%xmm6 | 1757 paddq %xmm6,%xmm6 |
1758 pand %xmm12,%xmm13 | 1758 pand %xmm12,%xmm13 |
1759 pcmpgtd %xmm6,%xmm14 | 1759 pcmpgtd %xmm6,%xmm14 |
1760 pxor %xmm13,%xmm6 | 1760 pxor %xmm13,%xmm6 |
1761 movdqu 80(%r12),%xmm12 | 1761 movdqu 80(%r12),%xmm12 |
1762 cmpq $96,%r14 | 1762 cmpq $96,%r14 |
1763 je L$xts_enc_6 | 1763 je L$xts_enc_6 |
(...skipping 245 matching lines...) Expand 10 before | Expand all | Expand 10 after Loading... |
2009 movdqa %xmm6,(%rax) | 2009 movdqa %xmm6,(%rax) |
2010 movdqa %xmm7,(%rsp) | 2010 movdqa %xmm7,(%rsp) |
2011 | 2011 |
2012 xorl %eax,%eax | 2012 xorl %eax,%eax |
2013 andq $-16,%r14 | 2013 andq $-16,%r14 |
2014 testl $15,%ebx | 2014 testl $15,%ebx |
2015 setnz %al | 2015 setnz %al |
2016 shlq $4,%rax | 2016 shlq $4,%rax |
2017 subq %rax,%r14 | 2017 subq %rax,%r14 |
2018 | 2018 |
2019 » subq» $128,%rsp | 2019 » subq» $0x80,%rsp |
2020 movdqa 32(%rbp),%xmm6 | 2020 movdqa 32(%rbp),%xmm6 |
2021 | 2021 |
2022 pxor %xmm14,%xmm14 | 2022 pxor %xmm14,%xmm14 |
2023 movdqa L$xts_magic(%rip),%xmm12 | 2023 movdqa L$xts_magic(%rip),%xmm12 |
2024 pcmpgtd %xmm6,%xmm14 | 2024 pcmpgtd %xmm6,%xmm14 |
2025 | 2025 |
2026 » subq» $128,%r14 | 2026 » subq» $0x80,%r14 |
2027 jc L$xts_dec_short | 2027 jc L$xts_dec_short |
2028 jmp L$xts_dec_loop | 2028 jmp L$xts_dec_loop |
2029 | 2029 |
2030 .p2align 4 | 2030 .p2align 4 |
2031 L$xts_dec_loop: | 2031 L$xts_dec_loop: |
2032 » pshufd» $19,%xmm14,%xmm13 | 2032 » pshufd» $0x13,%xmm14,%xmm13 |
2033 pxor %xmm14,%xmm14 | 2033 pxor %xmm14,%xmm14 |
2034 movdqa %xmm6,%xmm15 | 2034 movdqa %xmm6,%xmm15 |
2035 movdqa %xmm6,0(%rsp) | 2035 movdqa %xmm6,0(%rsp) |
2036 paddq %xmm6,%xmm6 | 2036 paddq %xmm6,%xmm6 |
2037 pand %xmm12,%xmm13 | 2037 pand %xmm12,%xmm13 |
2038 pcmpgtd %xmm6,%xmm14 | 2038 pcmpgtd %xmm6,%xmm14 |
2039 pxor %xmm13,%xmm6 | 2039 pxor %xmm13,%xmm6 |
2040 » pshufd» $19,%xmm14,%xmm13 | 2040 » pshufd» $0x13,%xmm14,%xmm13 |
2041 pxor %xmm14,%xmm14 | 2041 pxor %xmm14,%xmm14 |
2042 movdqa %xmm6,%xmm0 | 2042 movdqa %xmm6,%xmm0 |
2043 movdqa %xmm6,16(%rsp) | 2043 movdqa %xmm6,16(%rsp) |
2044 paddq %xmm6,%xmm6 | 2044 paddq %xmm6,%xmm6 |
2045 pand %xmm12,%xmm13 | 2045 pand %xmm12,%xmm13 |
2046 pcmpgtd %xmm6,%xmm14 | 2046 pcmpgtd %xmm6,%xmm14 |
2047 pxor %xmm13,%xmm6 | 2047 pxor %xmm13,%xmm6 |
2048 movdqu 0(%r12),%xmm7 | 2048 movdqu 0(%r12),%xmm7 |
2049 » pshufd» $19,%xmm14,%xmm13 | 2049 » pshufd» $0x13,%xmm14,%xmm13 |
2050 pxor %xmm14,%xmm14 | 2050 pxor %xmm14,%xmm14 |
2051 movdqa %xmm6,%xmm1 | 2051 movdqa %xmm6,%xmm1 |
2052 movdqa %xmm6,32(%rsp) | 2052 movdqa %xmm6,32(%rsp) |
2053 paddq %xmm6,%xmm6 | 2053 paddq %xmm6,%xmm6 |
2054 pand %xmm12,%xmm13 | 2054 pand %xmm12,%xmm13 |
2055 pcmpgtd %xmm6,%xmm14 | 2055 pcmpgtd %xmm6,%xmm14 |
2056 pxor %xmm13,%xmm6 | 2056 pxor %xmm13,%xmm6 |
2057 movdqu 16(%r12),%xmm8 | 2057 movdqu 16(%r12),%xmm8 |
2058 pxor %xmm7,%xmm15 | 2058 pxor %xmm7,%xmm15 |
2059 » pshufd» $19,%xmm14,%xmm13 | 2059 » pshufd» $0x13,%xmm14,%xmm13 |
2060 pxor %xmm14,%xmm14 | 2060 pxor %xmm14,%xmm14 |
2061 movdqa %xmm6,%xmm2 | 2061 movdqa %xmm6,%xmm2 |
2062 movdqa %xmm6,48(%rsp) | 2062 movdqa %xmm6,48(%rsp) |
2063 paddq %xmm6,%xmm6 | 2063 paddq %xmm6,%xmm6 |
2064 pand %xmm12,%xmm13 | 2064 pand %xmm12,%xmm13 |
2065 pcmpgtd %xmm6,%xmm14 | 2065 pcmpgtd %xmm6,%xmm14 |
2066 pxor %xmm13,%xmm6 | 2066 pxor %xmm13,%xmm6 |
2067 movdqu 32(%r12),%xmm9 | 2067 movdqu 32(%r12),%xmm9 |
2068 pxor %xmm8,%xmm0 | 2068 pxor %xmm8,%xmm0 |
2069 » pshufd» $19,%xmm14,%xmm13 | 2069 » pshufd» $0x13,%xmm14,%xmm13 |
2070 pxor %xmm14,%xmm14 | 2070 pxor %xmm14,%xmm14 |
2071 movdqa %xmm6,%xmm3 | 2071 movdqa %xmm6,%xmm3 |
2072 movdqa %xmm6,64(%rsp) | 2072 movdqa %xmm6,64(%rsp) |
2073 paddq %xmm6,%xmm6 | 2073 paddq %xmm6,%xmm6 |
2074 pand %xmm12,%xmm13 | 2074 pand %xmm12,%xmm13 |
2075 pcmpgtd %xmm6,%xmm14 | 2075 pcmpgtd %xmm6,%xmm14 |
2076 pxor %xmm13,%xmm6 | 2076 pxor %xmm13,%xmm6 |
2077 movdqu 48(%r12),%xmm10 | 2077 movdqu 48(%r12),%xmm10 |
2078 pxor %xmm9,%xmm1 | 2078 pxor %xmm9,%xmm1 |
2079 » pshufd» $19,%xmm14,%xmm13 | 2079 » pshufd» $0x13,%xmm14,%xmm13 |
2080 pxor %xmm14,%xmm14 | 2080 pxor %xmm14,%xmm14 |
2081 movdqa %xmm6,%xmm4 | 2081 movdqa %xmm6,%xmm4 |
2082 movdqa %xmm6,80(%rsp) | 2082 movdqa %xmm6,80(%rsp) |
2083 paddq %xmm6,%xmm6 | 2083 paddq %xmm6,%xmm6 |
2084 pand %xmm12,%xmm13 | 2084 pand %xmm12,%xmm13 |
2085 pcmpgtd %xmm6,%xmm14 | 2085 pcmpgtd %xmm6,%xmm14 |
2086 pxor %xmm13,%xmm6 | 2086 pxor %xmm13,%xmm6 |
2087 movdqu 64(%r12),%xmm11 | 2087 movdqu 64(%r12),%xmm11 |
2088 pxor %xmm10,%xmm2 | 2088 pxor %xmm10,%xmm2 |
2089 » pshufd» $19,%xmm14,%xmm13 | 2089 » pshufd» $0x13,%xmm14,%xmm13 |
2090 pxor %xmm14,%xmm14 | 2090 pxor %xmm14,%xmm14 |
2091 movdqa %xmm6,%xmm5 | 2091 movdqa %xmm6,%xmm5 |
2092 movdqa %xmm6,96(%rsp) | 2092 movdqa %xmm6,96(%rsp) |
2093 paddq %xmm6,%xmm6 | 2093 paddq %xmm6,%xmm6 |
2094 pand %xmm12,%xmm13 | 2094 pand %xmm12,%xmm13 |
2095 pcmpgtd %xmm6,%xmm14 | 2095 pcmpgtd %xmm6,%xmm14 |
2096 pxor %xmm13,%xmm6 | 2096 pxor %xmm13,%xmm6 |
2097 movdqu 80(%r12),%xmm12 | 2097 movdqu 80(%r12),%xmm12 |
2098 pxor %xmm11,%xmm3 | 2098 pxor %xmm11,%xmm3 |
2099 movdqu 96(%r12),%xmm13 | 2099 movdqu 96(%r12),%xmm13 |
(...skipping 23 matching lines...) Expand all Loading... |
2123 movdqu %xmm6,80(%r13) | 2123 movdqu %xmm6,80(%r13) |
2124 pxor 112(%rsp),%xmm4 | 2124 pxor 112(%rsp),%xmm4 |
2125 movdqu %xmm2,96(%r13) | 2125 movdqu %xmm2,96(%r13) |
2126 movdqu %xmm4,112(%r13) | 2126 movdqu %xmm4,112(%r13) |
2127 leaq 128(%r13),%r13 | 2127 leaq 128(%r13),%r13 |
2128 | 2128 |
2129 movdqa 112(%rsp),%xmm6 | 2129 movdqa 112(%rsp),%xmm6 |
2130 pxor %xmm14,%xmm14 | 2130 pxor %xmm14,%xmm14 |
2131 movdqa L$xts_magic(%rip),%xmm12 | 2131 movdqa L$xts_magic(%rip),%xmm12 |
2132 pcmpgtd %xmm6,%xmm14 | 2132 pcmpgtd %xmm6,%xmm14 |
2133 » pshufd» $19,%xmm14,%xmm13 | 2133 » pshufd» $0x13,%xmm14,%xmm13 |
2134 pxor %xmm14,%xmm14 | 2134 pxor %xmm14,%xmm14 |
2135 paddq %xmm6,%xmm6 | 2135 paddq %xmm6,%xmm6 |
2136 pand %xmm12,%xmm13 | 2136 pand %xmm12,%xmm13 |
2137 pcmpgtd %xmm6,%xmm14 | 2137 pcmpgtd %xmm6,%xmm14 |
2138 pxor %xmm13,%xmm6 | 2138 pxor %xmm13,%xmm6 |
2139 | 2139 |
2140 » subq» $128,%r14 | 2140 » subq» $0x80,%r14 |
2141 jnc L$xts_dec_loop | 2141 jnc L$xts_dec_loop |
2142 | 2142 |
2143 L$xts_dec_short: | 2143 L$xts_dec_short: |
2144 » addq» $128,%r14 | 2144 » addq» $0x80,%r14 |
2145 jz L$xts_dec_done | 2145 jz L$xts_dec_done |
2146 » pshufd» $19,%xmm14,%xmm13 | 2146 » pshufd» $0x13,%xmm14,%xmm13 |
2147 pxor %xmm14,%xmm14 | 2147 pxor %xmm14,%xmm14 |
2148 movdqa %xmm6,%xmm15 | 2148 movdqa %xmm6,%xmm15 |
2149 movdqa %xmm6,0(%rsp) | 2149 movdqa %xmm6,0(%rsp) |
2150 paddq %xmm6,%xmm6 | 2150 paddq %xmm6,%xmm6 |
2151 pand %xmm12,%xmm13 | 2151 pand %xmm12,%xmm13 |
2152 pcmpgtd %xmm6,%xmm14 | 2152 pcmpgtd %xmm6,%xmm14 |
2153 pxor %xmm13,%xmm6 | 2153 pxor %xmm13,%xmm6 |
2154 » pshufd» $19,%xmm14,%xmm13 | 2154 » pshufd» $0x13,%xmm14,%xmm13 |
2155 pxor %xmm14,%xmm14 | 2155 pxor %xmm14,%xmm14 |
2156 movdqa %xmm6,%xmm0 | 2156 movdqa %xmm6,%xmm0 |
2157 movdqa %xmm6,16(%rsp) | 2157 movdqa %xmm6,16(%rsp) |
2158 paddq %xmm6,%xmm6 | 2158 paddq %xmm6,%xmm6 |
2159 pand %xmm12,%xmm13 | 2159 pand %xmm12,%xmm13 |
2160 pcmpgtd %xmm6,%xmm14 | 2160 pcmpgtd %xmm6,%xmm14 |
2161 pxor %xmm13,%xmm6 | 2161 pxor %xmm13,%xmm6 |
2162 movdqu 0(%r12),%xmm7 | 2162 movdqu 0(%r12),%xmm7 |
2163 cmpq $16,%r14 | 2163 cmpq $16,%r14 |
2164 je L$xts_dec_1 | 2164 je L$xts_dec_1 |
2165 » pshufd» $19,%xmm14,%xmm13 | 2165 » pshufd» $0x13,%xmm14,%xmm13 |
2166 pxor %xmm14,%xmm14 | 2166 pxor %xmm14,%xmm14 |
2167 movdqa %xmm6,%xmm1 | 2167 movdqa %xmm6,%xmm1 |
2168 movdqa %xmm6,32(%rsp) | 2168 movdqa %xmm6,32(%rsp) |
2169 paddq %xmm6,%xmm6 | 2169 paddq %xmm6,%xmm6 |
2170 pand %xmm12,%xmm13 | 2170 pand %xmm12,%xmm13 |
2171 pcmpgtd %xmm6,%xmm14 | 2171 pcmpgtd %xmm6,%xmm14 |
2172 pxor %xmm13,%xmm6 | 2172 pxor %xmm13,%xmm6 |
2173 movdqu 16(%r12),%xmm8 | 2173 movdqu 16(%r12),%xmm8 |
2174 cmpq $32,%r14 | 2174 cmpq $32,%r14 |
2175 je L$xts_dec_2 | 2175 je L$xts_dec_2 |
2176 pxor %xmm7,%xmm15 | 2176 pxor %xmm7,%xmm15 |
2177 » pshufd» $19,%xmm14,%xmm13 | 2177 » pshufd» $0x13,%xmm14,%xmm13 |
2178 pxor %xmm14,%xmm14 | 2178 pxor %xmm14,%xmm14 |
2179 movdqa %xmm6,%xmm2 | 2179 movdqa %xmm6,%xmm2 |
2180 movdqa %xmm6,48(%rsp) | 2180 movdqa %xmm6,48(%rsp) |
2181 paddq %xmm6,%xmm6 | 2181 paddq %xmm6,%xmm6 |
2182 pand %xmm12,%xmm13 | 2182 pand %xmm12,%xmm13 |
2183 pcmpgtd %xmm6,%xmm14 | 2183 pcmpgtd %xmm6,%xmm14 |
2184 pxor %xmm13,%xmm6 | 2184 pxor %xmm13,%xmm6 |
2185 movdqu 32(%r12),%xmm9 | 2185 movdqu 32(%r12),%xmm9 |
2186 cmpq $48,%r14 | 2186 cmpq $48,%r14 |
2187 je L$xts_dec_3 | 2187 je L$xts_dec_3 |
2188 pxor %xmm8,%xmm0 | 2188 pxor %xmm8,%xmm0 |
2189 » pshufd» $19,%xmm14,%xmm13 | 2189 » pshufd» $0x13,%xmm14,%xmm13 |
2190 pxor %xmm14,%xmm14 | 2190 pxor %xmm14,%xmm14 |
2191 movdqa %xmm6,%xmm3 | 2191 movdqa %xmm6,%xmm3 |
2192 movdqa %xmm6,64(%rsp) | 2192 movdqa %xmm6,64(%rsp) |
2193 paddq %xmm6,%xmm6 | 2193 paddq %xmm6,%xmm6 |
2194 pand %xmm12,%xmm13 | 2194 pand %xmm12,%xmm13 |
2195 pcmpgtd %xmm6,%xmm14 | 2195 pcmpgtd %xmm6,%xmm14 |
2196 pxor %xmm13,%xmm6 | 2196 pxor %xmm13,%xmm6 |
2197 movdqu 48(%r12),%xmm10 | 2197 movdqu 48(%r12),%xmm10 |
2198 cmpq $64,%r14 | 2198 cmpq $64,%r14 |
2199 je L$xts_dec_4 | 2199 je L$xts_dec_4 |
2200 pxor %xmm9,%xmm1 | 2200 pxor %xmm9,%xmm1 |
2201 » pshufd» $19,%xmm14,%xmm13 | 2201 » pshufd» $0x13,%xmm14,%xmm13 |
2202 pxor %xmm14,%xmm14 | 2202 pxor %xmm14,%xmm14 |
2203 movdqa %xmm6,%xmm4 | 2203 movdqa %xmm6,%xmm4 |
2204 movdqa %xmm6,80(%rsp) | 2204 movdqa %xmm6,80(%rsp) |
2205 paddq %xmm6,%xmm6 | 2205 paddq %xmm6,%xmm6 |
2206 pand %xmm12,%xmm13 | 2206 pand %xmm12,%xmm13 |
2207 pcmpgtd %xmm6,%xmm14 | 2207 pcmpgtd %xmm6,%xmm14 |
2208 pxor %xmm13,%xmm6 | 2208 pxor %xmm13,%xmm6 |
2209 movdqu 64(%r12),%xmm11 | 2209 movdqu 64(%r12),%xmm11 |
2210 cmpq $80,%r14 | 2210 cmpq $80,%r14 |
2211 je L$xts_dec_5 | 2211 je L$xts_dec_5 |
2212 pxor %xmm10,%xmm2 | 2212 pxor %xmm10,%xmm2 |
2213 » pshufd» $19,%xmm14,%xmm13 | 2213 » pshufd» $0x13,%xmm14,%xmm13 |
2214 pxor %xmm14,%xmm14 | 2214 pxor %xmm14,%xmm14 |
2215 movdqa %xmm6,%xmm5 | 2215 movdqa %xmm6,%xmm5 |
2216 movdqa %xmm6,96(%rsp) | 2216 movdqa %xmm6,96(%rsp) |
2217 paddq %xmm6,%xmm6 | 2217 paddq %xmm6,%xmm6 |
2218 pand %xmm12,%xmm13 | 2218 pand %xmm12,%xmm13 |
2219 pcmpgtd %xmm6,%xmm14 | 2219 pcmpgtd %xmm6,%xmm14 |
2220 pxor %xmm13,%xmm6 | 2220 pxor %xmm13,%xmm6 |
2221 movdqu 80(%r12),%xmm12 | 2221 movdqu 80(%r12),%xmm12 |
2222 cmpq $96,%r14 | 2222 cmpq $96,%r14 |
2223 je L$xts_dec_6 | 2223 je L$xts_dec_6 |
(...skipping 156 matching lines...) Expand 10 before | Expand all | Expand 10 after Loading... |
2380 | 2380 |
2381 movdqa 16(%rsp),%xmm6 | 2381 movdqa 16(%rsp),%xmm6 |
2382 | 2382 |
2383 L$xts_dec_done: | 2383 L$xts_dec_done: |
2384 andl $15,%ebx | 2384 andl $15,%ebx |
2385 jz L$xts_dec_ret | 2385 jz L$xts_dec_ret |
2386 | 2386 |
2387 pxor %xmm14,%xmm14 | 2387 pxor %xmm14,%xmm14 |
2388 movdqa L$xts_magic(%rip),%xmm12 | 2388 movdqa L$xts_magic(%rip),%xmm12 |
2389 pcmpgtd %xmm6,%xmm14 | 2389 pcmpgtd %xmm6,%xmm14 |
2390 » pshufd» $19,%xmm14,%xmm13 | 2390 » pshufd» $0x13,%xmm14,%xmm13 |
2391 movdqa %xmm6,%xmm5 | 2391 movdqa %xmm6,%xmm5 |
2392 paddq %xmm6,%xmm6 | 2392 paddq %xmm6,%xmm6 |
2393 pand %xmm12,%xmm13 | 2393 pand %xmm12,%xmm13 |
2394 movdqu (%r12),%xmm15 | 2394 movdqu (%r12),%xmm15 |
2395 pxor %xmm13,%xmm6 | 2395 pxor %xmm13,%xmm6 |
2396 | 2396 |
2397 leaq 32(%rbp),%rdi | 2397 leaq 32(%rbp),%rdi |
2398 pxor %xmm6,%xmm15 | 2398 pxor %xmm6,%xmm15 |
2399 leaq 32(%rbp),%rsi | 2399 leaq 32(%rbp),%rsi |
2400 movdqa %xmm15,32(%rbp) | 2400 movdqa %xmm15,32(%rbp) |
(...skipping 94 matching lines...) Expand 10 before | Expand all | Expand 10 after Loading... |
2495 .quad 0x0404040404040404, 0x0404040404040404 | 2495 .quad 0x0404040404040404, 0x0404040404040404 |
2496 .quad 0x0808080808080808, 0x0808080808080808 | 2496 .quad 0x0808080808080808, 0x0808080808080808 |
2497 L$M0: | 2497 L$M0: |
2498 .quad 0x02060a0e03070b0f, 0x0004080c0105090d | 2498 .quad 0x02060a0e03070b0f, 0x0004080c0105090d |
2499 L$63: | 2499 L$63: |
2500 .quad 0x6363636363636363, 0x6363636363636363 | 2500 .quad 0x6363636363636363, 0x6363636363636363 |
2501 .byte 66,105,116,45,115,108,105,99,101,100,32,65,69,83,32,102,111,114,32,120,5
6,54,95,54,52,47,83,83,83,69,51,44,32,69,109,105,108,105,97,32,75,195,164,115,11
2,101,114,44,32,80,101,116,101,114,32,83,99,104,119,97,98,101,44,32,65,110,100,1
21,32,80,111,108,121,97,107,111,118,0 | 2501 .byte 66,105,116,45,115,108,105,99,101,100,32,65,69,83,32,102,111,114,32,120,5
6,54,95,54,52,47,83,83,83,69,51,44,32,69,109,105,108,105,97,32,75,195,164,115,11
2,101,114,44,32,80,101,116,101,114,32,83,99,104,119,97,98,101,44,32,65,110,100,1
21,32,80,111,108,121,97,107,111,118,0 |
2502 .p2align 6 | 2502 .p2align 6 |
2503 | 2503 |
2504 #endif | 2504 #endif |
OLD | NEW |