<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=iso-2022-jp">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<!--[if !mso]><style>v\:* {behavior:url(#default#VML);}
o\:* {behavior:url(#default#VML);}
w\:* {behavior:url(#default#VML);}
.shape {behavior:url(#default#VML);}
</style><![endif]--><style><!--
/* Font Definitions */
@font-face
        {font-family:SimSun;
        panose-1:2 1 6 0 3 1 1 1 1 1;}
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:DengXian;
        panose-1:2 1 6 0 3 1 1 1 1 1;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
        {font-family:"MS PGothic";
        panose-1:2 11 6 0 7 2 5 8 2 4;}
@font-face
        {font-family:"\@MS PGothic";}
@font-face
        {font-family:"\@SimSun";
        panose-1:2 1 6 0 3 1 1 1 1 1;}
@font-face
        {font-family:"\@DengXian";
        panose-1:2 1 6 0 3 1 1 1 1 1;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        font-size:12.0pt;
        font-family:SimSun;
        mso-fareast-language:ZH-CN;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
p.xmsonormal, li.xmsonormal, div.xmsonormal
        {mso-style-name:x_msonormal;
        margin:0in;
        font-size:12.0pt;
        font-family:SimSun;
        mso-fareast-language:ZH-CN;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-size:10.0pt;}
@page WordSection1
        {size:8.5in 11.0in;
        margin:1.0in 1.25in 1.0in 1.25in;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-US" link="blue" vlink="purple" style="word-wrap:break-word">
<div class="WordSection1">
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;mso-fareast-language:EN-US">Are you using the latest stable 20.11.3? If not, can you try?<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;mso-fareast-language:EN-US"><o:p> </o:p></span></p>
<div>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;mso-fareast-language:EN-US">Regards,<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;mso-fareast-language:EN-US">Asaf Penso<o:p></o:p></span></p>
</div>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;mso-fareast-language:EN-US"><o:p> </o:p></span></p>
<div style="border:none;border-left:solid blue 1.5pt;padding:0in 0in 0in 4.0pt">
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="MsoNormal"><b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">From:</span></b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> Yan, Xiaoping (NSB - CN/Hangzhou) <xiaoping.yan@nokia-sbell.com>
<br>
<b>Sent:</b> Thursday, September 30, 2021 11:05 AM<br>
<b>To:</b> Asaf Penso <asafp@nvidia.com>; users@dpdk.org<br>
<b>Cc:</b> Slava Ovsiienko <viacheslavo@nvidia.com>; Matan Azrad <matan@nvidia.com>; Raslan Darawsheh <rasland@nvidia.com><br>
<b>Subject:</b> RE: mlx5 VF packet lost between rx_port_unicast_packets and rx_good_packets<o:p></o:p></span></p>
</div>
</div>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Hi,<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">In below log, we can clearly see packets are dropped between counter
<b>rx_unicast_packets  and rx_good_packets </b><o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">But there is not any error/miss counter tell why/where packet is dropped.<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Is this a known bug/limitation of Mellanox card?<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Any suggestion?<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Counter in  test center(traffic generator):<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">              Tx count: 617496152<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">              Rx count: 617475672<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">              Drop: 20480<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd started with:<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">dpdk-testpmd -l "2,3" --legacy-mem --socket-mem "5000,0" -a 0000:03:07.0  -- -i --nb-cores=1 --portmask=0x1 --rxd=512 --txd=512<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd> port stop 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd> vlan set filter on 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd> rx_vlan add 767 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd> port start 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd> set fwd 5tswap<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd> start<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd> show fwd stats all<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">  ---------------------- Forward statistics for port 0  ----------------------<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">  RX-packets: 617475727      RX-dropped: 0             RX-total: 617475727<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">  TX-packets: 617475727      TX-dropped: 0             TX-total: 617475727<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">  ----------------------------------------------------------------------------<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">  +++++++++++++++ Accumulated forward statistics for all ports+++++++++++++++<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">  RX-packets: 617475727      RX-dropped: 0             RX-total: 617475727<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">  TX-packets: 617475727      TX-dropped: 0             TX-total: 617475727<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">  ++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd> show port xstats 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">###### NIC extended statistics for port 0<o:p></o:p></span></p>
<p class="MsoNormal"><b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_good_packets: 617475731<o:p></o:p></span></b></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_good_packets: 617475730<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_good_bytes: 45693207378<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_good_bytes: 45693207036<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_missed_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_mbuf_allocation_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_q0_packets: 617475731<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_q0_bytes: 45693207378<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_q0_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_q0_packets: 617475730<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_q0_bytes: 45693207036<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_wqe_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_unicast_packets: 617496152<o:p></o:p></span></b></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_unicast_bytes: 45694715248<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_unicast_packets: 617475730<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_unicast_bytes: 45693207036<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_multicast_packets: 3<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_multicast_bytes: 342<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_multicast_packets: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_multicast_bytes: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_broadcast_packets: 56<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_broadcast_bytes: 7308<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_broadcast_packets: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_broadcast_bytes: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_phy_packets: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_phy_packets: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_phy_crc_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_phy_bytes: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_phy_bytes: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_phy_in_range_len_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_phy_symbol_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_phy_discard_packets: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_phy_discard_packets: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_phy_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rx_out_of_buffer: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_pp_missed_interrupt_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_pp_rearm_queue_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_pp_clock_queue_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_pp_timestamp_past_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_pp_timestamp_future_errors: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_pp_jitter: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_pp_wander: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">tx_pp_sync_lost: 0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<div>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Best regards<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Yan Xiaoping<o:p></o:p></span></p>
</div>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="MsoNormal"><b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">From:</span></b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> Yan, Xiaoping (NSB - CN/Hangzhou)
<br>
<b>Sent:</b> 2021</span><span lang="ZH-CN" style="font-size:11.0pt">年</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">9</span><span lang="ZH-CN" style="font-size:11.0pt">月</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">29</span><span lang="ZH-CN" style="font-size:11.0pt">日</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">
 16:26<br>
<b>To:</b> 'Asaf Penso' <</span><a href="mailto:asafp@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">asafp@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">><br>
<b>Cc:</b> 'Slava Ovsiienko' <</span><a href="mailto:viacheslavo@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">viacheslavo@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>; 'Matan Azrad' <</span><a href="mailto:matan@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">matan@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>;
 'Raslan Darawsheh' <</span><a href="mailto:rasland@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rasland@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>; Xu, Meng-Maggie (NSB - CN/Hangzhou)
 <</span><a href="mailto:meng-maggie.xu@nokia-sbell.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">meng-maggie.xu@nokia-sbell.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">><br>
<b>Subject:</b> RE: mlx5 VF packet lost between rx_port_unicast_packets and rx_good_packets<o:p></o:p></span></p>
</div>
</div>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Hi,<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">We replaced the NIC also (originally it was cx-4, now it is cx-5), but result is the same.<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Do you know why the packet is dropped between rx_port_unicast_packets and rx_good_packets, but there is no error/miss counter?<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">And do you know mlx5_xxx kernel thread?<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">They have cpu affinity to all cpu cores, including the core used by fastpath/testpmd.<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Would it affect?<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">[cranuser1@hztt24f-rm17-ocp-sno-1 ~]$ taskset -cp 74548<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">pid 74548's current affinity list: 0-27
<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">[cranuser1@hztt24f-rm17-ocp-sno-1 ~]$ ps -emo pid,tid,psr,comm | grep mlx5<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    903       -   - mlx5_health0000<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    904       -   - mlx5_page_alloc<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    907       -   - mlx5_cmd_0000:0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    916       -   - mlx5_events<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    917       -   - mlx5_esw_wq<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    918       -   - mlx5_fw_tracer<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    919       -   - mlx5_hv_vhca<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    921       -   - mlx5_fc<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    924       -   - mlx5_health0000<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    925       -   - mlx5_page_alloc<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    927       -   - mlx5_cmd_0000:0<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    935       -   - mlx5_events<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    936       -   - mlx5_esw_wq<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    937       -   - mlx5_fw_tracer<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    938       -   - mlx5_hv_vhca<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    939       -   - mlx5_fc<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    941       -   - mlx5_health0000<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">    942       -   - mlx5_page_alloc<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<div>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Best regards<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Yan Xiaoping<o:p></o:p></span></p>
</div>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="MsoNormal"><b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">From:</span></b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> Yan, Xiaoping (NSB - CN/Hangzhou)
<br>
<b>Sent:</b> 2021</span><span lang="ZH-CN" style="font-size:11.0pt">年</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">9</span><span lang="ZH-CN" style="font-size:11.0pt">月</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">29</span><span lang="ZH-CN" style="font-size:11.0pt">日</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">
 15:03<br>
<b>To:</b> 'Asaf Penso' <</span><a href="mailto:asafp@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">asafp@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">><br>
<b>Cc:</b> Slava Ovsiienko <</span><a href="mailto:viacheslavo@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">viacheslavo@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>; Matan Azrad <</span><a href="mailto:matan@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">matan@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>;
 Raslan Darawsheh <</span><a href="mailto:rasland@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rasland@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>; Xu, Meng-Maggie (NSB - CN/Hangzhou)
 <</span><a href="mailto:meng-maggie.xu@nokia-sbell.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">meng-maggie.xu@nokia-sbell.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">><br>
<b>Subject:</b> RE: mlx5 VF packet lost between rx_port_unicast_packets and rx_good_packets<o:p></o:p></span></p>
</div>
</div>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Hi,<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">It is 20.11 (We upgraded to 20.11 recently).<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<div>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Best regards<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Yan Xiaoping<o:p></o:p></span></p>
</div>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><o:p> </o:p></span></p>
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="MsoNormal"><b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">From:</span></b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> Asaf Penso <</span><a href="mailto:asafp@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">asafp@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>
<br>
<b>Sent:</b> 2021</span><span lang="ZH-CN" style="font-size:11.0pt">年</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">9</span><span lang="ZH-CN" style="font-size:11.0pt">月</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">29</span><span lang="ZH-CN" style="font-size:11.0pt">日</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">
 14:47<br>
<b>To:</b> Yan, Xiaoping (NSB - CN/Hangzhou) <</span><a href="mailto:xiaoping.yan@nokia-sbell.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">xiaoping.yan@nokia-sbell.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">><br>
<b>Cc:</b> Slava Ovsiienko <</span><a href="mailto:viacheslavo@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">viacheslavo@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>; Matan Azrad <</span><a href="mailto:matan@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">matan@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>;
 Raslan Darawsheh <</span><a href="mailto:rasland@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rasland@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>; Xu, Meng-Maggie (NSB - CN/Hangzhou)
 <</span><a href="mailto:meng-maggie.xu@nokia-sbell.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">meng-maggie.xu@nokia-sbell.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">><br>
<b>Subject:</b> Re: mlx5 VF packet lost between rx_port_unicast_packets and rx_good_packets<o:p></o:p></span></p>
</div>
</div>
<p class="MsoNormal"><o:p> </o:p></p>
<div>
<p class="MsoNormal" style="background:white"><span style="color:#212121">What dpdk version are you using?<o:p></o:p></span></p>
</div>
<div>
<p class="MsoNormal" style="background:white"><span style="color:#212121">19.11 doesn't support 5tswap mode in testpmd.<o:p></o:p></span></p>
</div>
<div id="ms-outlook-mobile-signature">
<div>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
<div>
<p class="MsoNormal">Regards,<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal">Asaf Penso<o:p></o:p></p>
</div>
</div>
<div class="MsoNormal" align="center" style="text-align:center">
<hr size="1" width="98%" align="center">
</div>
<div id="divRplyFwdMsg">
<p class="MsoNormal"><b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:black">From:</span></b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:black"> Yan, Xiaoping (NSB - CN/Hangzhou) <</span><a href="mailto:xiaoping.yan@nokia-sbell.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">xiaoping.yan@nokia-sbell.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:black">><br>
<b>Sent:</b> Monday, September 27, 2021 5:55:21 AM<br>
<b>To:</b> Asaf Penso <</span><a href="mailto:asafp@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">asafp@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:black">><br>
<b>Cc:</b> Slava Ovsiienko <</span><a href="mailto:viacheslavo@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">viacheslavo@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:black">>; Matan
 Azrad <</span><a href="mailto:matan@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">matan@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:black">>; Raslan Darawsheh <</span><a href="mailto:rasland@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rasland@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:black">>;
 Xu, Meng-Maggie (NSB - CN/Hangzhou) <</span><a href="mailto:meng-maggie.xu@nokia-sbell.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">meng-maggie.xu@nokia-sbell.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif;color:black">><br>
<b>Subject:</b> RE: mlx5 VF packet lost between rx_port_unicast_packets and rx_good_packets</span>
<o:p></o:p></p>
<div>
<p class="MsoNormal"> <o:p></o:p></p>
</div>
</div>
<div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Hi,</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">I tried also with testpmd with such command and configuration:</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">dpdk-testpmd -l "4,5" --legacy-mem --socket-mem "5000,0" -a 0000:03:02.0  -- -i --nb-cores=1 --portmask=0x1 --rxd=512 --txd=512</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd> port stop 0</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd> vlan set filter on 0</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd> rx_vlan add 767 0</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd> port start 0</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd> set fwd 5tswap</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">testpmd> start</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">it only gets 1.4mpps.</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">with 1.5mpps, it starts to drop packets occasionally.</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Best regards</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Yan Xiaoping</span><o:p></o:p></p>
</div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="xmsonormal"><b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">From:</span></b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> Yan, Xiaoping (NSB - CN/Hangzhou)
<br>
<b>Sent:</b> 2021</span><span lang="ZH-CN" style="font-size:11.0pt">年</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">9</span><span lang="ZH-CN" style="font-size:11.0pt">月</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">26</span><span lang="ZH-CN" style="font-size:11.0pt">日</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">
 13:19<br>
<b>To:</b> 'Asaf Penso' <</span><a href="mailto:asafp@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">asafp@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">><br>
<b>Cc:</b> Slava Ovsiienko <</span><a href="mailto:viacheslavo@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">viacheslavo@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>; Matan Azrad <</span><a href="mailto:matan@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">matan@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>;
 Raslan Darawsheh <</span><a href="mailto:rasland@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rasland@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>; Xu, Meng-Maggie (NSB - CN/Hangzhou)
 <</span><a href="mailto:meng-maggie.xu@nokia-sbell.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">meng-maggie.xu@nokia-sbell.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">><br>
<b>Subject:</b> RE: mlx5 VF packet lost between rx_port_unicast_packets and rx_good_packets</span><o:p></o:p></p>
</div>
</div>
<p class="xmsonormal"> <o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Hi,</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">I was using 6wind fastpath instead of testpmd.</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>> Do you configure any flow?</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">I think not, but is there any command to check?</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>> Do you work in isolate mode?</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Do you mean the CPU?</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">The dpdk application (6wind fastpath) run inside container and it is using CPU core from
</span><a href="https://github.com/nokia/CPU-Pooler"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">exclusive pool</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">
</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">On the otherhand, the cpu isolation is done by host infrastructure and a bit complicated, I’m not sure if there is really no any other task run in this core.</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">BTW, we recently switched the host infra to redhat openshift container platform, and same problem is there…</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">We can get 1.6mpps with intel 810 NIC, but we can only gets 1mpps for mlx.</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">I raised also a ticket to mellanox Support</span><o:p></o:p></p>
<p class="xmsonormal"><a href="https://support.mellanox.com/s/case/5001T00001ZC0jzQAD"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">https://support.mellanox.com/s/case/5001T00001ZC0jzQAD</span></a><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">There is log about cpu affinity, and some mlx5_xxx threads seems strange to me…</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Can you please also check the ticket?</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Best regards</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Yan Xiaoping</span><o:p></o:p></p>
</div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="xmsonormal"><b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">From:</span></b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> Asaf Penso <</span><a href="mailto:asafp@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">asafp@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>
<br>
<b>Sent:</b> 2021</span><span lang="JA" style="font-size:11.0pt;font-family:"MS PGothic",sans-serif;mso-fareast-language:JA">年</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">9</span><span lang="JA" style="font-size:11.0pt;font-family:"MS PGothic",sans-serif;mso-fareast-language:JA">月</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">26</span><span lang="JA" style="font-size:11.0pt;font-family:"MS PGothic",sans-serif;mso-fareast-language:JA">日</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">
 12:57<br>
<b>To:</b> Yan, Xiaoping (NSB - CN/Hangzhou) <</span><a href="mailto:xiaoping.yan@nokia-sbell.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">xiaoping.yan@nokia-sbell.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">><br>
<b>Cc:</b> Slava Ovsiienko <</span><a href="mailto:viacheslavo@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">viacheslavo@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>; Matan Azrad <</span><a href="mailto:matan@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">matan@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>;
 Raslan Darawsheh <</span><a href="mailto:rasland@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rasland@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">><br>
<b>Subject:</b> RE: mlx5 VF packet lost between rx_port_unicast_packets and rx_good_packets</span><o:p></o:p></p>
</div>
</div>
<p class="xmsonormal"> <o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Hi,</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Could you please share the testpmd command line you are using?</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Do you configure any flow? Do you work in isolate mode?</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Regards,</span><o:p></o:p></p>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Asaf Penso</span><o:p></o:p></p>
</div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
<div style="border:none;border-left:solid blue 1.5pt;padding:0in 0in 0in 4.0pt">
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="xmsonormal"><b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">From:</span></b><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> Yan, Xiaoping (NSB - CN/Hangzhou) <</span><a href="mailto:xiaoping.yan@nokia-sbell.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">xiaoping.yan@nokia-sbell.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>
<br>
<b>Sent:</b> Monday, July 26, 2021 7:52 AM<br>
<b>To:</b> Asaf Penso <</span><a href="mailto:asafp@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">asafp@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>;
</span><a href="mailto:users@dpdk.org"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">users@dpdk.org</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><br>
<b>Cc:</b> Slava Ovsiienko <</span><a href="mailto:viacheslavo@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">viacheslavo@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>; Matan Azrad <</span><a href="mailto:matan@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">matan@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>;
 Raslan Darawsheh <</span><a href="mailto:rasland@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rasland@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">><br>
<b>Subject:</b> RE: mlx5 VF packet lost between rx_port_unicast_packets and rx_good_packets</span><o:p></o:p></p>
</div>
</div>
<p class="xmsonormal"> <o:p></o:p></p>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Hi,</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">dpdk version in use is 19.11</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">I have not tried with latest upstream version.
</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Times New Roman",serif"> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">It seems performance is affected by IPv6 neighbor advertisement packets coming to this interface</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">05:20:04.025290 IP6 fe80::6cf1:9fff:fe4e:8a01 > ff02::1: ICMP6, neighbor advertisement, tgt is fe80::6cf1:9fff:fe4e:8a01, length 32</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">        0x0000:  3333 0000 0001 6ef1 9f4e 8a01 86dd 6008</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">        0x0010:  fe44 0020 3aff fe80 0000 0000 0000 6cf1</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">        0x0020:  9fff fe4e 8a01 ff02 0000 0000 0000 0000</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">        0x0030:  0000 0000 0001 8800 96d9 2000 0000 fe80</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">        0x0040:  0000 0000 0000 6cf1 9fff fe4e 8a01 0201</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">        0x0050:  6ef1 9f4e 8a01</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Somehow, there are about 100 such packets per second coming to the interface, and packet loss happens.</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">When we change default vlan in switch so that there is no such packets come to the interface (the mlx5 VF under test), there is not packet loss anymore.</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">In both cases, all packets have arrived to rx_vport_unicast_packets.</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">In the packet loss case, we see less packets in rx_good_packets (rx_vport_unicast_packets = rx_good_packets + lost packet).</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">If the dpdk application is too slow to receive all packets from the VF, is there any counter to indicate this?</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Any suggestion?</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Thank you.</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Times New Roman",serif"> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Best regards</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Yan Xiaoping</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Times New Roman",serif"> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">-----Original Message-----<br>
From: Asaf Penso <</span><a href="mailto:asafp@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">asafp@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>
<br>
Sent: 2021</span><span lang="ZH-CN" style="font-size:11.0pt;font-family:DengXian">年</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">7</span><span lang="ZH-CN" style="font-size:11.0pt;font-family:DengXian">月</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">13</span><span lang="ZH-CN" style="font-size:11.0pt;font-family:DengXian">日</span><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">
 20:36<br>
To: Yan, Xiaoping (NSB - CN/Hangzhou) <</span><a href="mailto:xiaoping.yan@nokia-sbell.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">xiaoping.yan@nokia-sbell.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>;
</span><a href="mailto:users@dpdk.org"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">users@dpdk.org</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"><br>
Cc: Slava Ovsiienko <</span><a href="mailto:viacheslavo@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">viacheslavo@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>; Matan Azrad <</span><a href="mailto:matan@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">matan@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>;
 Raslan Darawsheh <</span><a href="mailto:rasland@nvidia.com"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">rasland@nvidia.com</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">><br>
Subject: RE: mlx5 VF packet lost between rx_port_unicast_packets and rx_good_packets</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Times New Roman",serif"> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Hello Yan,</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Can you please mention which DPDK version you use and whether you see this issue also with latest upstream version?</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Regards,</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">Asaf Penso</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif"> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>-----Original Message-----</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>From: users <</span><a href="mailto:users-bounces@dpdk.org"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">users-bounces@dpdk.org</span></a><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>
 On Behalf Of Yan, Xiaoping (NSB -</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>CN/Hangzhou)</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>Sent: Monday, July 5, 2021 1:08 PM</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>To:
</span><a href="mailto:users@dpdk.org"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">users@dpdk.org</span></a><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>Subject: [dpdk-users] mlx5 VF packet lost between
</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>rx_port_unicast_packets and rx_good_packets</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>Hi,</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>When doing traffic loopback test on a mlx5 VF, we found there are some
</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>packet loss (not all packet received back ).</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>From xstats counters, I found all packets have been received in
</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>rx_port_unicast_packets, but rx_good_packets has lower counter, and
</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>rx_port_unicast_packets - rx_good_packets = lost packets i.e. packet
</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>lost between rx_port_unicast_packets and rx_good_packets.</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>But I can not find any other counter indicating where exactly those
</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>packets are lost.</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>Any idea?</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>Attached is the counter logs. (bf is before the test, af is after the
</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>test, fp-cli dpdk-port-stats is the command used to get xstats, and
</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>ethtool -S _f1 (the vf</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>used) also printed) Test equipment reports that it sends: 2911176
</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>packets,</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>receives:  2909474, dropped: 1702 And the xstats (after - before) shows
</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>rx_port_unicast_packets 2911177,  rx_good_packets 2909475, so drop</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>(2911177 - rx_good_packets) is 1702</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>BTW, I also noticed this discussion "packet loss between phy and good
</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>counter"</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">></span><a href="http://mails.dpdk.org/archives/users/2018-July/003271.html"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">http://mails.dpdk.org/archives/users/2018-July/003271.html</span></a><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>but my case seems to be different as packet also received in
</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>rx_port_unicast_packets, and I checked counter from pf  (ethtool -S
</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>ens1f0 in attached log), rx_discards_phy is not increasing.</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>Thank you.</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>Best regards</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Calibri",sans-serif">>Yan Xiaoping</span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Times New Roman",serif"> </span><o:p></o:p></p>
</div>
<div>
<p class="xmsonormal"><span style="font-size:11.0pt;font-family:"Times New Roman",serif"> </span><o:p></o:p></p>
</div>
</div>
</div>
</div>
</div>
</div>
</body>
</html>