<div dir="ltr">Hi Ajit and Juraj,<div><br></div><div>I send out an invite for Thursday, Mar 4 at 10:00 AM. But feel free to adjust the time or let me know if there is a better time that works for you.</div><div><br></div><div>For me, I can do:</div><div>Tuesday 10:00 AM - 1:00 PM.<br>Thursday 10:00 AM - 1:00 PM.</div><div>Friday 10:00 AM - 12:00 PM and 2:00 PM - 5:00 PM</div><div><br></div><div>Best,</div><div>David</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Mon, Mar 1, 2021 at 10:12 AM Ajit Khaparde <<a href="mailto:ajit.khaparde@broadcom.com">ajit.khaparde@broadcom.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">David,<br>
I was busy with a customer issue and could not get to my emails.<br>
I am seeing this now. Let me close out any issues needing urgent attention.<br>
Let's sync on a suitable time after that.<br>
<br>
Juraj,<br>
Sure. We will add you.<br>
<br>
Thanks<br>
Ajit<br>
<br>
On Mon, Mar 1, 2021 at 7:00 AM Juraj Linkeš <juraj.linkes@pantheon.tech> wrote:<br>
><br>
> Hi Ajit, David,<br>
><br>
><br>
><br>
> If you're setting up a call, could you please send me an invite? I'd like to get some insight into the issues on Arm's behalf.<br>
><br>
><br>
><br>
> Thanks,<br>
><br>
> Juraj<br>
><br>
><br>
><br>
> From: ci <<a href="mailto:ci-bounces@dpdk.org" target="_blank">ci-bounces@dpdk.org</a>> On Behalf Of David Liu<br>
> Sent: Thursday, February 25, 2021 7:47 PM<br>
> To: Ajit Khaparde <<a href="mailto:ajit.khaparde@broadcom.com" target="_blank">ajit.khaparde@broadcom.com</a>><br>
> Cc: Owen Hilyard <<a href="mailto:ohilyard@iol.unh.edu" target="_blank">ohilyard@iol.unh.edu</a>>; <a href="mailto:ci@dpdk.org" target="_blank">ci@dpdk.org</a>; dpdklab <<a href="mailto:dpdklab@iol.unh.edu" target="_blank">dpdklab@iol.unh.edu</a>><br>
> Subject: Re: [dpdk-ci] [dpdklab] Re: [DPDKLAB] 25G Broadcom NIC in Arm hardware<br>
><br>
><br>
><br>
> Hi Ajit,<br>
><br>
><br>
><br>
> Sorry for this issue.<br>
><br>
> If possible I would like to set up a time where we can do this in a call to help get this solved faster.<br>
><br>
> Please let me know what would be a good time for you.<br>
><br>
><br>
><br>
> Best,<br>
><br>
> David<br>
><br>
><br>
><br>
><br>
><br>
> On Thu, Feb 25, 2021 at 12:55 PM David Liu <<a href="mailto:dliu@iol.unh.edu" target="_blank">dliu@iol.unh.edu</a>> wrote:<br>
><br>
> Hi Ajit,<br>
><br>
><br>
><br>
> I changed the permission to allow you to run sudo.<br>
><br>
> This should work now.<br>
><br>
> Let me know if you still have issues.<br>
><br>
><br>
><br>
> Best,<br>
><br>
> David<br>
><br>
><br>
><br>
> On Mon, Feb 22, 2021 at 11:11 PM Ajit Khaparde <<a href="mailto:ajit.khaparde@broadcom.com" target="_blank">ajit.khaparde@broadcom.com</a>> wrote:<br>
><br>
> David,<br>
><br>
> I tried the option to use sudo. And that didn't work.<br>
><br>
><br>
><br>
> Thanks<br>
><br>
> Ajit<br>
><br>
><br>
><br>
> ajitkhaparde is not allowed to run sudo on arm-gigabyte.  This incident will be reported.<br>
><br>
><br>
><br>
> ----<br>
><br>
> sudo su<br>
> [sudo] password for ajitkhaparde:<br>
> ajitkhaparde is not allowed to run sudo on arm-dell.  This incident will be reported.<br>
> ajitkhaparde@arm-dell:/opt/dts$ sudo ./dts -s<br>
> [sudo] password for ajitkhaparde:<br>
> ajitkhaparde is not allowed to run sudo on arm-dell.  This incident will be reported.<br>
><br>
><br>
><br>
> On Thu, Feb 18, 2021 at 10:03 AM Ajit Khaparde <<a href="mailto:ajit.khaparde@broadcom.com" target="_blank">ajit.khaparde@broadcom.com</a>> wrote:<br>
><br>
><br>
><br>
><br>
><br>
> On Thu, Feb 18, 2021 at 10:01 AM David Liu <<a href="mailto:dliu@iol.unh.edu" target="_blank">dliu@iol.unh.edu</a>> wrote:<br>
><br>
> Hi Ajit,<br>
><br>
><br>
><br>
> This is likely caused by when dts try to ssh into another machine as a normal user which will prompt you for the password.<br>
><br>
><br>
><br>
> One solution would be "sudo su" as root to run the command line since you should have root access.<br>
><br>
> David,<br>
><br>
> Let me try this method first.<br>
><br>
> If it does not work, we could try with the public ssh keys.<br>
><br>
> I will let you know.<br>
><br>
><br>
><br>
> Thanks<br>
><br>
> Ajit<br>
><br>
><br>
><br>
> Another solution would be to let me add your public ssh key into both machines.<br>
><br>
><br>
><br>
> Let me know if this helps.<br>
><br>
><br>
><br>
> Best,<br>
><br>
> David<br>
><br>
><br>
><br>
> On Fri, Feb 12, 2021 at 5:48 PM Ajit Khaparde <<a href="mailto:ajit.khaparde@broadcom.com" target="_blank">ajit.khaparde@broadcom.com</a>> wrote:<br>
><br>
> Thanks Owen.<br>
><br>
><br>
><br>
> When I run the dts command line suggested, I get the following error.<br>
><br>
><br>
><br>
> Thanks<br>
><br>
> Ajit<br>
><br>
><br>
><br>
> Traceback (most recent call last):<br>
>   File "/opt/dts/framework/ssh_pexpect.py", line 60, in _connect_host<br>
>     self.password, original_prompt='[$#>]', password_regex=r'(?i)(?:password:)|(?:passphrase for key)|(?i)(password for .+:)')<br>
>   File "/usr/local/lib/python3.6/dist-packages/pexpect/pxssh.py", line 440, in login<br>
>     raise ExceptionPxssh('password refused')<br>
> pexpect.pxssh.ExceptionPxssh: password refused<br>
><br>
>                                          ^^^^^^^^^^^^^^<br>
><br>
><br>
><br>
><br>
><br>
><br>
><br>
> On Fri, Feb 12, 2021 at 12:09 PM Owen Hilyard <<a href="mailto:ohilyard@iol.unh.edu" target="_blank">ohilyard@iol.unh.edu</a>> wrote:<br>
><br>
> Hello Ajit,<br>
><br>
><br>
><br>
> There was a misconfiguration in our identity management system. The issue should now be resolved.<br>
><br>
><br>
><br>
> Owen Hilyard<br>
><br>
><br>
><br>
> On Thu, Feb 11, 2021 at 9:38 PM 'Ajit Khaparde' via dpdklab <<a href="mailto:dpdklab@iol.unh.edu" target="_blank">dpdklab@iol.unh.edu</a>> wrote:<br>
><br>
> David,<br>
><br>
> I can use my credentials to login to rhea.<br>
><br>
> But the same credentials are not allowing me to login onto the servers you provided.<br>
><br>
><br>
><br>
> Thanks<br>
><br>
> Ajit<br>
><br>
><br>
><br>
> ssh -l ajitkhaparde <a href="http://arm-gigabyte.dpdklab.iol.unh.edu" rel="noreferrer" target="_blank">arm-gigabyte.dpdklab.iol.unh.edu</a><br>
> Connection closed by 172.18.0.41 port 22<br>
><br>
><br>
><br>
> ssh -l ajitkhaparde <a href="http://arm-dell.dpdklab.iol.unh.edu" rel="noreferrer" target="_blank">arm-dell.dpdklab.iol.unh.edu</a><br>
> Connection closed by 172.18.0.40 port 22<br>
><br>
><br>
><br>
> On Tue, Feb 9, 2021 at 6:36 AM David Liu <<a href="mailto:dliu@iol.unh.edu" target="_blank">dliu@iol.unh.edu</a>> wrote:<br>
><br>
> Hi Ajit,<br>
><br>
><br>
><br>
> Thanks for the update. Let me know if you need anything from me.<br>
><br>
><br>
><br>
><br>
><br>
> Best,<br>
><br>
> David<br>
><br>
><br>
><br>
> On Sun, Feb 7, 2021 at 11:04 PM Ajit Khaparde <<a href="mailto:ajit.khaparde@broadcom.com" target="_blank">ajit.khaparde@broadcom.com</a>> wrote:<br>
><br>
> David,<br>
><br>
> I had some trouble with my system over the past week.<br>
><br>
> So I could not login into the setup. I am hoping that my system will be restored early this week<br>
><br>
> I will login into the setup after that.<br>
><br>
><br>
><br>
> Thanks<br>
><br>
> Ajit<br>
><br>
><br>
><br>
> On Tue, Feb 2, 2021 at 10:57 AM Ajit Khaparde <<a href="mailto:ajit.khaparde@broadcom.com" target="_blank">ajit.khaparde@broadcom.com</a>> wrote:<br>
><br>
> Hi David,<br>
> I actually did miss it. I will take a look.<br>
> Thanks for the refresh mail.<br>
><br>
> Thanks<br>
> Ajit<br>
><br>
> On Tue, Feb 2, 2021 at 8:58 AM David Liu <<a href="mailto:dliu@iol.unh.edu" target="_blank">dliu@iol.unh.edu</a>> wrote:<br>
> ><br>
> > Hi Ajit,<br>
> ><br>
> > Ping again in case if you miss the last email.<br>
> ><br>
> > Did you have a chance to give it a try on login to the machines?<br>
> ><br>
> > Just some notes, we are currently running compile and some performance/functional testing.<br>
> > Which it may be hard for you to run dts, so please let me know if you want me to stop these tests for you to debug.<br>
> ><br>
> > Step I run:<br>
> > CONF="conf_dpdk" ./switch.sh Broadcom   #this is to switch the dts configuration to Broadcom<br>
> > ./dts -s                                                           #To start the dts<br>
> ><br>
> > Informatio:<br>
> > <a href="http://arm-dell.dpdklab.iol.unh.edu" rel="noreferrer" target="_blank">arm-dell.dpdklab.iol.unh.edu</a><br>
> > - dts - located in /opt/dts<br>
> > - Trex - located in /opt/trex/v2.87<br>
> ><br>
> > <a href="http://arm-gigabyte.dpdklab.iol.unh.edu" rel="noreferrer" target="_blank">arm-gigabyte.dpdklab.iol.unh.edu</a><br>
> > - dpdk - located in /root/dpdk<br>
> ><br>
> > Best,<br>
> > David<br>
> ><br>
> > On Tue, Jan 26, 2021 at 4:59 PM David Liu <<a href="mailto:dliu@iol.unh.edu" target="_blank">dliu@iol.unh.edu</a>> wrote:<br>
> >><br>
> >> Also, I had changed the configuration when I run Broadcom nic.<br>
> >> In the dts folder, you can start it with ./dts -s<br>
> >><br>
> >> On Tue, Jan 26, 2021 at 4:54 PM David Liu <<a href="mailto:dliu@iol.unh.edu" target="_blank">dliu@iol.unh.edu</a>> wrote:<br>
> >>><br>
> >>> Hi Ajit,<br>
> >>> Sorry for the late reply.<br>
> >>><br>
> >>> You can ssh into the machine using the same VPN Username and Password.<br>
> >>> Can you try and see if that works?<br>
> >>><br>
> >>> Informatio:<br>
> >>> <a href="http://arm-dell.dpdklab.iol.unh.edu" rel="noreferrer" target="_blank">arm-dell.dpdklab.iol.unh.edu</a><br>
> >>> - dts - located in /opt/dts<br>
> >>> - Trex - located in /opt/trex/v2.87<br>
> >>><br>
> >>> <a href="http://arm-gigabyte.dpdklab.iol.unh.edu" rel="noreferrer" target="_blank">arm-gigabyte.dpdklab.iol.unh.edu</a><br>
> >>> - dpdk - located in /root/dpdk<br>
> >>><br>
> >>><br>
> >>> Thanks,<br>
> >>> David<br>
> >>><br>
> >>> On Tue, Jan 19, 2021 at 5:20 PM Ajit Khaparde <<a href="mailto:ajit.khaparde@broadcom.com" target="_blank">ajit.khaparde@broadcom.com</a>> wrote:<br>
> >>>><br>
> >>>> Hi David,<br>
> >>>> Thanks for pinging me. Do you think I could login into the setup and<br>
> >>>> see what is happening?<br>
> >>>> I do have the credentials for two systems in your lab -<br>
> >>>> <a href="http://rhea.dpdklab.iol.unh.edu" rel="noreferrer" target="_blank">rhea.dpdklab.iol.unh.edu</a> and <a href="http://io.dpdklab.iol.unh.edu" rel="noreferrer" target="_blank">io.dpdklab.iol.unh.edu</a><br>
> >>>> If you can provide me details of the systems you are trying to<br>
> >>>> configure, I could take a look.<br>
> >>>><br>
> >>>> Thanks<br>
> >>>> Ajit<br>
> >>>><br>
> >>>> On Tue, Jan 19, 2021 at 1:41 PM David Liu <<a href="mailto:dliu@iol.unh.edu" target="_blank">dliu@iol.unh.edu</a>> wrote:<br>
> >>>> ><br>
> >>>> > Hi Ajit,<br>
> >>>> ><br>
> >>>> > Thank you for helping out.<br>
> >>>> ><br>
> >>>> > How are you doing with this issue?<br>
> >>>> ><br>
> >>>> > Please let me know if you need anything information from us.<br>
> >>>> ><br>
> >>>> > Just some extra information that both Trex and dts are on the same intel tester machine.<br>
> >>>> ><br>
> >>>> > Best,<br>
> >>>> > David<br>
> >>>> ><br>
> >>>> > On Thu, Jan 14, 2021 at 2:12 PM David Liu <<a href="mailto:dliu@iol.unh.edu" target="_blank">dliu@iol.unh.edu</a>> wrote:<br>
> >>>> >><br>
> >>>> >> Yes, so this is the same NIC work on x86.<br>
> >>>> >> By seeing the link, I am assuming you mean the ports that are using for Trex. If so they are UP before I start the Trex.<br>
> >>>> >><br>
> >>>> >> Thank,<br>
> >>>> >> David<br>
> >>>> >><br>
> >>>> >><br>
> >>>> >> On Thu, Jan 14, 2021 at 1:11 AM Ajit Khaparde <<a href="mailto:ajit.khaparde@broadcom.com" target="_blank">ajit.khaparde@broadcom.com</a>> wrote:<br>
> >>>> >>><br>
> >>>> >>> Does the same NIC work on x86?<br>
> >>>> >>> Also do you see link before you start the trex? I am trying to see if the port failed to successfully come up<br>
> >>>> >>> or if there is a problem with the link. Can you check and tell?<br>
> >>>> >>><br>
> >>>> >>> Thanks<br>
> >>>> >>> Ajit<br>
> >>>> >>><br>
> >>>> >>> On Wed, Jan 13, 2021 at 4:20 PM David Liu <<a href="mailto:dliu@iol.unh.edu" target="_blank">dliu@iol.unh.edu</a>> wrote:<br>
> >>>> >>>><br>
> >>>> >>>> Hi Ajit,<br>
> >>>> >>>><br>
> >>>> >>>> Thank you for helping out.<br>
> >>>> >>>><br>
> >>>> >>>> We have it working on the x86, but not the Arm.<br>
> >>>> >>>><br>
> >>>> >>>><br>
> >>>> >>>> Thanks,<br>
> >>>> >>>> David<br>
> >>>> >>>><br>
> >>>> >>>> On Wed, Jan 13, 2021 at 5:34 PM Ajit Khaparde <<a href="mailto:ajit.khaparde@broadcom.com" target="_blank">ajit.khaparde@broadcom.com</a>> wrote:<br>
> >>>> >>>>><br>
> >>>> >>>>> Hi David,<br>
> >>>> >>>>> I will take a look.<br>
> >>>> >>>>> Do you see similar issues on x86? I am asking because<br>
> >>>> >>>>> even I would start with that to create a baseline and then<br>
> >>>> >>>>> attempt on ARM.<br>
> >>>> >>>>><br>
> >>>> >>>>> Thanks<br>
> >>>> >>>>> Ajit<br>
> >>>> >>>>><br>
> >>>> >>>>> On Wed, Jan 13, 2021 at 12:08 PM David Liu <<a href="mailto:dliu@iol.unh.edu" target="_blank">dliu@iol.unh.edu</a>> wrote:<br>
> >>>> >>>>>><br>
> >>>> >>>>>> Hi Ajit,<br>
> >>>> >>>>>><br>
> >>>> >>>>>> We have a 25G Broadcom NIC that is installed on an Arm machine.<br>
> >>>> >>>>>> And I am running into a problem when I try to run nic_single_core_perf on the NIC.<br>
> >>>> >>>>>> Currently, we are using: Trex v2.86 and dts from <a href="http://git.dpdk.org/tools/dts/" rel="noreferrer" target="_blank">http://git.dpdk.org/tools/dts/</a><br>
> >>>> >>>>>> All the NICs are up and running when testing.<br>
> >>>> >>>>>><br>
> >>>> >>>>>> The problem is an error when I try to run the test case inside the nic_single_core_perf:<br>
> >>>> >>>>>><br>
> >>>> >>>>>>> TestNicSingleCorePerf: Test running at parameters: framesize: 64, rxd/txd: 512<br>
> >>>> >>>>>>>                dut.172.18.0.41: x86_64-native-linuxapp-gcc/app/dpdk-testpmd -l 32,33 -n 4  --file-prefix=dpdk_15311_20210113190237   -a 0000:93:00.0 -a 0000:93:00.1 -- -i --portmask=0x3 --txd=512 --rxd=512 --nb-cores=1<br>
> >>>> >>>>>>>                dut.172.18.0.41: start<br>
> >>>> >>>>>>>          TestNicSingleCorePerf: Test Case test_perf_nic_single_core Result ERROR: Traceback (most recent call last):<br>
> >>>> >>>>>>>   File "/opt/dts/framework/test_case.py", line 319, in _execute_test_case<br>
> >>>> >>>>>>>     case_obj()<br>
> >>>> >>>>>>>   File "tests/TestSuite_nic_single_core_perf.py", line 196, in test_perf_nic_single_core<br>
> >>>> >>>>>>>     self.perf_test(self.nb_ports)<br>
> >>>> >>>>>>>   File "tests/TestSuite_nic_single_core_perf.py", line 270, in perf_test<br>
> >>>> >>>>>>>     _, packets_received = self.tester.pktgen.measure_throughput(stream_ids=streams, options=traffic_opt)<br>
> >>>> >>>>>>>   File "/opt/dts/framework/pktgen_base.py", line 245, in measure_throughput<br>
> >>>> >>>>>>>     self._prepare_transmission(stream_ids=stream_ids)<br>
> >>>> >>>>>>>   File "/opt/dts/framework/pktgen_trex.py", line 778, in _prepare_transmission<br>
> >>>> >>>>>>>     self._conn.reset(ports=self._ports)<br>
> >>>> >>>>>>>   File "/opt/trex/v2.86/automation/trex_control_plane/interactive/trex/common/trex_api_annotators.py", line 51, in wrap2<br>
> >>>> >>>>>>>     ret = f(*args, **kwargs)<br>
> >>>> >>>>>>>   File "/opt/trex/v2.86/automation/trex_control_plane/interactive/trex/stl/trex_stl_client.py", line 339, in reset<br>
> >>>> >>>>>>>     self.clear_stats(ports)<br>
> >>>> >>>>>>>   File "/opt/trex/v2.86/automation/trex_control_plane/interactive/trex/common/trex_api_annotators.py", line 51, in wrap2<br>
> >>>> >>>>>>>     ret = f(*args, **kwargs)<br>
> >>>> >>>>>>>   File "/opt/trex/v2.86/automation/trex_control_plane/interactive/trex/stl/trex_stl_client.py", line 1492, in clear_stats<br>
> >>>> >>>>>>>     self._clear_stats_common(ports, clear_global, clear_xstats)<br>
> >>>> >>>>>>>   File "/opt/trex/v2.86/automation/trex_control_plane/interactive/trex/common/trex_client.py", line 2876, in _clear_stats_common<br>
> >>>> >>>>>>>     raise TRexError(rc)<br>
> >>>> >>>>>>> trex.common.trex_exceptions.TRexError: *** [RPC] - Failed to get server response from tcp://<a href="http://172.18.0.40:4501" rel="noreferrer" target="_blank">172.18.0.40:4501</a><br>
> >>>> >>>>>><br>
> >>>> >>>>>><br>
> >>>> >>>>>> I also try to run TRex in stateless mode with./t-rex-64 -i --cfg /etc/trex_cfg.yaml and  connect with ./trex-console<br>
> >>>> >>>>>><br>
> >>>> >>>>>> Then start sending traffic with command<br>
> >>>> >>>>>>><br>
> >>>> >>>>>>> trex>start -f stl/imix.py<br>
> >>>> >>>>>><br>
> >>>> >>>>>><br>
> >>>> >>>>>> But this will cause an error to turn off Trex.<br>
> >>>> >>>>>><br>
> >>>> >>>>>>> trex><br>
> >>>> >>>>>>> 2021-01-13 19:56:21 - [server][warning]  - Server has been shutdown - cause: 'WATCHDOG: task 'Trex DP core 1' has not responded for more than 1.00135 seconds - timeout is 1 seconds<br>
> >>>> >>>>>>> *** traceback follows ***<br>
> >>>> >>>>>>> 1       0x561be173cf5a ./_t-rex-64(+0x19af5a) [0x561be173cf5a]<br>
> >>>> >>>>>>> 2       0x7feea3ac0980 /lib/x86_64-linux-gnu/libpthread.so.0(+0x12980) [0x7feea3ac0980]<br>
> >>>> >>>>>>> 3       0x561be1a05a2a rte_delay_us_block + 106<br>
> >>>> >>>>>>> 4       0x561be16ce874 CCoreEthIF::send_burst(CCorePerPort*, unsigned short, CVirtualIFPerSideStats*) + 3220<br>
> >>>> >>>>>>> 5       0x561be16abf57 CCoreEthIF::flush_tx_queue() + 31<br>
> >>>> >>>>>>> 6       0x561be171e3d9 CNodeGenerator::handle_maintenance(CFlowGenListPerThread*) + 265<br>
> >>>> >>>>>>> 7       0x561be171f7ec CNodeGenerator::handle_flow_sync(CGenNode*, CFlowGenListPerThread*, bool&) + 92<br>
> >>>> >>>>>>> 8       0x561be171fc98 CNodeGenerator::handle_slow_messages(unsigned char, CGenNode*, CFlowGenListPerThread*, bool) + 184<br>
> >>>> >>>>>>> 9       0x561be16cb5f1 int CNodeGenerator::flush_file_realtime<23, false>(double, double, CFlowGenListPerThread*, double&) + 881<br>
> >>>> >>>>>>> 10      0x561be1905212 TrexStatelessDpCore::start_scheduler() + 226<br>
> >>>> >>>>>>> 11      0x561be1883ae9 TrexDpCore::start() + 89<br>
> >>>> >>>>>>> 12      0x561be1714113 CFlowGenListPerThread::start(std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >&, CPreviewMode&) + 115<br>
> >>>> >>>>>>> 13      0x561be16af8dd CGlobalTRex::run_in_core(unsigned char) + 487<br>
> >>>> >>>>>>> 14      0x561be16d11ad ./_t-rex-64(+0x12f1ad) [0x561be16d11ad]<br>
> >>>> >>>>>>> 15      0x561be1a1dfaa eal_thread_loop + 426<br>
> >>>> >>>>>>> 16      0x7feea3ab56db /lib/x86_64-linux-gnu/libpthread.so.0(+0x76db) [0x7feea3ab56db]<br>
> >>>> >>>>>>> 17      0x7feea2a8571f clone + 63<br>
> >>>> >>>>>>><br>
> >>>> >>>>>>> *** addr2line information follows ***<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> ??:0<br>
> >>>> >>>>>>> '<br>
> >>>> >>>>>><br>
> >>>> >>>>>><br>
> >>>> >>>>>> I believe if everything is working, this should not turn off trex but please correct me if I am wrong.<br>
> >>>> >>>>>> I wonder if you have any suggestion of how I can approach this issue?<br>
> >>>> >>>>>><br>
> >>>> >>>>>> Best,<br>
> >>>> >>>>>> David<br>
> >>>> >>>>>><br>
> >>>> >>>>>><br>
</blockquote></div>